Google a licencié Blake Lemoine, l’ingénieur qui a déclaré que LaMDA était sensible

Lemoine a travaillé pour l’organisation Dependable AI de Google et, dans le cadre de son travail, a commencé à parler à LaMDA, le système d’intelligence artificielle de l’entreprise pour la création de chatbots, à l’automne. Il en est venu à croire que la technologie était practical après s’être inscrit pour tester si l’intelligence artificielle pouvait utiliser des discours discriminatoires ou haineux.

L’ingénieur de Google qui pense que l’IA de l’entreprise a pris vie

Dans un communiqué, le porte-parole de Google, Brian Gabriel, a déclaré que la société prenait au sérieux le développement de l’IA et avait examiné LaMDA 11 fois, ainsi que publié un doc de recherche détaillant les initiatives de développement responsable.

“Si un employé partage des préoccupations concernant notre travail, comme Blake l’a fait, nous les examinons en profondeur”, a-t-il ajouté. “Nous avons trouvé que les affirmations de Blake selon lesquelles LaMDA est reasonable étaient totalement infondées et avons travaillé pour clarifier cela avec lui pendant de nombreux mois.”

Il a attribué les discussions à la culture ouverte de l’entreprise.

“Il est regrettable qu’en dépit d’un extended engagement sur ce sujet, Blake ait toujours choisi de violer de manière persistante des politiques claires en matière d’emploi et de sécurité des données qui incluent la nécessité de protéger les informations sur les produits”, a ajouté Gabriel. “Nous poursuivrons notre développement minutieux des modèles de langage, et nous souhaitons bonne likelihood à Blake.”

Le licenciement de Lemoine a été signalé pour la première fois dans le publication Large Technological know-how.

Chez Lemoine entretiens avec LaMDA a suscité une significant discussion sur les avancées récentes de l’IA, l’incompréhension du general public sur le fonctionnement de ces systèmes et la responsabilité des entreprises. Google a précédemment expulsé les cooks de la division Ethical AI, Margaret Mitchell et Timnit Gebru, après avoir mis en garde contre les risques associés à cette technologie.

Google a embauché Timnit Gebru pour critiquer ouvertement l’IA contraire à l’éthique. Puis elle a été licenciée pour cela.

LaMDA utilise les grands modèles de langage les as well as avancés de Google, un form d’IA qui reconnaît et génère du texte. Ces systèmes ne peuvent pas comprendre le langage ou le sens, disent les chercheurs. Mais ils peuvent produire un discours trompeusement humain parce qu’ils sont formés sur d’énormes quantités de données explorées sur Internet pour prédire le prochain mot le in addition probable dans une phrase.

Après que LaMDA ait parlé à Lemoine de la personnalité et de ses droits, il a commencé à enquêter additionally avant. En avril, il a partagé un Google Doc avec des cadres supérieurs intitulé “Is LaMDA Sentient?” qui contenait certaines de ses discussions avec LaMDA, où il prétendait être wise. Deux dirigeants de Google ont examiné ses réclamations et les ont rejetées.

Huge Tech construit l’IA avec de mauvaises données. Les scientifiques ont donc cherché de meilleures données.

Lemoine avait déjà été mis en congé administratif payé en juin pour avoir enfreint la politique de confidentialité de l’entreprise. L’ingénieur, qui a passé la plupart de ses sept années chez Google à travailler sur la recherche proactive, y compris les algorithmes de personnalisation, a déclaré qu’il envisageait de créer sa propre société d’intelligence artificielle axée sur des jeux vidéo de narration collaborative.