Инженер Google отстранен от работы, утверждая, что его искусственный интеллект разумен

Инженер Блейк Лемуан говорит, что языковая модель Google имеет душу. Компания не согласна.

Отправь историю любому другу

Как подписчик, у вас есть 10 подарочных статей. дарить каждый месяц. Любой может прочитать то, чем вы поделитесь.

Нико Грант и Кейд Мец

САН-ФРАНЦИСКО — Недавно компания Google отправила инженера в оплачиваемый отпуск после того, как он отверг его утверждение о том, что ее искусственный интеллект разумен, что привело к еще одному скандалу вокруг самых передовых технологий компании.

Блейк Лемуан, старший инженер-программист в организации Google по ответственному искусственному интеллекту, заявил в интервью, что в понедельник его отправили в отпуск. В отделе кадров компании заявили, что он нарушил политику конфиденциальности Google. По словам Лемуана, за день до своего отстранения он передал документы в офис сенатора США, утверждая, что они предоставили доказательства того, что Google и ее технологии участвуют в религиозной дискриминации.

В Google заявили, что их системы имитируют разговорный диалог и могут рассуждать на разные темы, но не обладают сознанием. «Наша команда, включая специалистов по этике и технологов, рассмотрела опасения Блейка в отношении наших принципов искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения», — заявил в своем заявлении Брайан Гэбриэл, представитель Google. «Некоторые представители более широкого сообщества ИИ рассматривают долгосрочную возможность создания разумного или общего ИИ, но нет смысла делать это путем антропоморфизации сегодняшних диалоговых моделей, которые не являются разумными». Газета Washington Post первой сообщила об отстранении Лемуана.

В течение нескольких месяцев г-н Лемуан спорил с менеджерами, руководителями и отделом кадров Google из-за своего удивительного заявления о том, что языковая модель для диалоговых приложений компании, или LaMDA, обладает сознанием и душой. Google утверждает, что сотни ее исследователей и инженеров пообщались с LaMDA, внутренним инструментом, и пришли к иным выводам, чем г-н Лемуан. Большинство экспертов по искусственному интеллекту считают, что отрасль еще очень далека от компьютерного разума.

Некоторые исследователи искусственного интеллекта уже давно делают оптимистические заявления о том, что эти технологии скоро достигнут разума, но многие другие очень быстро отвергают эти заявления. «Если бы вы использовали эти системы, вы бы никогда не сказали таких вещей», — сказал Эмаад Хваджа, исследователь из Калифорнийского университета в Беркли и Калифорнийского университета в Сан-Франциско, который изучает подобные технологии.

В погоне за авангардом искусственного интеллекта исследовательская организация Google провела последние несколько лет в трясине скандалов и противоречий. Ученые и другие сотрудники подразделения регулярно ссорятся из-за технологий и кадров, эпизоды которых часто выливаются на общественную арену. В марте Google уволила исследователя, который пытался публично не согласиться с опубликованными работами двух своих коллег. А увольнения двух исследователей этики ИИ, Тимнита Гебру и Маргарет Митчелл, после того, как они раскритиковали языковые модели Google, продолжают бросать тень на группу.

Г-н Лемуан, военный ветеран, назвавший себя священником, бывшим заключенным и исследователем искусственного интеллекта, сказал руководителям Google, столь же старшим, как Кент Уокер, президент по глобальным связям, что, по его мнению, LaMDA был ребенком 7 или 8 лет. лет. Он хотел, чтобы компания получила согласие компьютерной программы, прежде чем проводить над ней эксперименты. Его претензии были основаны на его религиозных убеждениях, которые, по его словам, подвергались дискриминации со стороны отдела кадров компании.

«Они неоднократно подвергали сомнению мое здравомыслие», - сказал г-н Лемуан. «Они спросили: «Вы недавно проходили осмотр у психиатра?»» За несколько месяцев до того, как его отправили в административный отпуск, компания предложила ему взять отпуск по психическому здоровью.

Янн ЛеКун, руководитель отдела исследований искусственного интеллекта в Meta и ключевая фигура в развитии нейронных сетей, заявил в интервью на этой неделе, что эти типы систем недостаточно мощны, чтобы достичь истинного интеллекта.