Les bébés utilisent la période infantile « impuissante » pour apprendre de puissants modèles de base, tout comme le fait ChatGPT


Crédit: Tendances des sciences cognitives (2024).

Selon une nouvelle étude, le cerveau des bébés n'est pas aussi immature qu'on le pensait auparavant, mais ils utilisent plutôt la période d'”impuissance” postnatale pour apprendre de puissants modèles de base similaires à ceux qui sous-tendent l'IA générative.

L'étude, dirigée par un neuroscientifique du Trinity College de Dublin et vient d'être publiée dans la revue Tendances des sciences cognitivesdécouvre pour la première fois que l'explication classique de l'impuissance du nourrisson n'est pas étayée par les données cérébrales modernes.

Comparés à de nombreux animaux, les humains restent impuissants longtemps après la naissance. De nombreux animaux, comme les chevaux et les poules, peuvent marcher le jour de leur naissance. Cette période prolongée d'impuissance met les nourrissons humains en danger et impose un énorme fardeau aux parents, mais, étonnamment, elle a survécu à la pression de l'évolution.

“Depuis les années 1960, les scientifiques pensaient que l'impuissance manifestée par les bébés humains était due aux contraintes liées à la naissance. La croyance était qu'avec une grosse tête, les bébés humains devaient naître tôt, ce qui entraînait un cerveau immature et une période d'impuissance qui s'étendait jusqu'à 1 an.

“Nous voulions découvrir pourquoi les bébés humains étaient impuissants pendant une si longue période”, explique le professeur Rhodri Cusack, professeur de neurosciences cognitives et auteur principal de l'article.

L'équipe de recherche comprenait le professeur Cusack, qui mesure le développement du cerveau et de l'esprit du nourrisson à l'aide de la neuroimagerie ; le professeur Christine Charvet, de l'université d'Auburn, aux États-Unis, qui compare le développement cérébral d'une espèce à l'autre ; et le Dr Marc'Aurelio Ranzato, chercheur principal en IA chez DeepMind.

“Notre étude a comparé le développement cérébral de différentes espèces animales. Elle s'inspire d'un projet de longue date, Translating Time, qui compare les âges correspondants d'une espèce à l'autre pour établir que le cerveau humain est plus mature que celui de nombreuses autres espèces à la naissance”, explique le professeur Charvet.

Les chercheurs ont utilisé l'imagerie cérébrale et ont découvert que de nombreux systèmes du cerveau du nourrisson humain fonctionnent déjà et traitent les riches flux d'informations provenant des sens. Cela contredit la croyance de longue date selon laquelle de nombreux systèmes cérébraux des nourrissons sont trop immatures pour fonctionner.

L’équipe a ensuite comparé l’apprentissage chez les humains avec les derniers modèles d’apprentissage automatique, dans lesquels les réseaux neuronaux profonds bénéficient d’une période de pré-formation « impuissante ».

Dans le passé, les modèles d’IA étaient directement entraînés aux tâches pour lesquelles ils étaient nécessaires : par exemple, une voiture autonome était entraînée à reconnaître ce qu’elle voyait sur une route. Mais désormais, les modèles sont initialement pré-entraînés pour détecter des modèles au sein de grandes quantités de données, sans effectuer aucune tâche importante. Le modèle de base résultant est ensuite utilisé pour apprendre des tâches spécifiques. Il a été constaté que cela conduit finalement à un apprentissage plus rapide de nouvelles tâches et à de meilleures performances.

“Nous proposons que les nourrissons humains utilisent de la même manière la période” d'impuissance “de la petite enfance pour se pré-entraîner et apprendre de puissants modèles de base, qui continueront à soutenir la cognition plus tard dans la vie avec des performances élevées et une généralisation rapide.

“Cela ressemble beaucoup aux puissants modèles d'apprentissage automatique qui ont conduit aux grandes avancées de l'IA générative ces dernières années, comme ChatGPT d'OpenAI ou Gemini de Google”, a expliqué le professeur Cusack.

Les chercheurs affirment que les recherches futures sur la façon dont les bébés apprennent pourraient bien inspirer la prochaine génération de modèles d’IA.

“Bien qu'il y ait eu de grandes avancées dans le domaine de l'IA, les modèles de base consomment de grandes quantités d'énergie et nécessitent beaucoup plus de données que les bébés. Comprendre comment les bébés apprennent pourrait inspirer la prochaine génération de modèles d'IA. Les prochaines étapes de la recherche consisteraient à comparer directement l'apprentissage dans le cerveau et l'IA”, a-t-il conclu.

Plus d'information:
Rhodri Cusack et al, Les nourrissons sans défense apprennent un modèle de base, Tendances des sciences cognitives (2024). DOI : 10.1016/j.tics.2024.05.001. www.cell.com/trends/cognitive-… 1364-6613(24)00114-1

Fourni par le Trinity College de Dublin

Citation: Les bébés utilisent la période infantile « impuissante » pour apprendre de puissants modèles de base, tout comme le fait ChatGPT (2024, 5 juin) récupéré le 5 juin 2024 sur

Ce document est soumis au droit d'auteur. En dehors de toute utilisation équitable à des fins d'étude ou de recherche privée, aucune partie ne peut être reproduite sans autorisation écrite. Le contenu est fourni seulement pour information.



Related posts

L’analyse révèle que la plupart des LLM majeurs en open source et en source fermée ont tendance à pencher à gauche lorsqu’on leur pose des questions à forte connotation politique

Une étude examine la contagion du suicide après le décès de célébrités, ouvrant des pistes de prévention

Sonder la capture du carbone, atome par atome, avec un modèle d’apprentissage automatique