Google отправил одного из своих инженеров в оплачиваемый административный отпуск за якобы нарушение политики конфиденциальности после того, как он забеспокоился о том, что система чат-ботов с искусственным интеллектом достигла разума. Вашингтон пост отчеты. Инженер Блейк Лемуан, работающий в организации Google Responsible AI, проверял, генерирует ли ее модель LaMDA дискриминационные высказывания или разжигание ненависти.
Сообщается, что опасения инженера выросли из убедительных ответов, которые, как он видел, генерировала система ИИ о своих правах и этике робототехники. В апреле он поделился с руководителями документом под названием «Разумна ли ЛаМДА?», содержащий стенограмму его разговоров с ИИ (после увольнения Лемуан опубликовал стенограмму через его аккаунт на Medium), который, по его словам, показывает, что он утверждает, «что он разумен, потому что у него есть чувства, эмоции и субъективный опыт».
Google считает, что действия Лемуана, связанные с его работой над LaMDA, нарушили его политику конфиденциальности. Вашингтон пост а также Хранитель отчет. Сообщается, что он пригласил юриста представлять систему ИИ и поговорил с представителем судебного комитета Палаты представителей о заявленных неэтичных действиях в Google. В 6 июня Средний постВ день, когда Лемуана отправили в административный отпуск, инженер сказал, что он добивался «минимального количества консультаций со стороны, чтобы помочь мне в моих расследованиях», и что в список людей, с которыми он вел переговоры, входили государственные служащие США.
Поисковый гигант публично объявил LaMDA на Google I/O в прошлом году, который, как они надеются, улучшит разговорные помощники искусственного интеллекта и сделает общение более естественным. Компания уже использует аналогичную технологию языковой модели для функции Smart Compose в Gmail или для запросов поисковых систем.
В заявлении, переданном ВаПо, представитель Google заявил, что «нет никаких доказательств» того, что LaMDA разумен. «Наша команда, включая специалистов по этике и технологов, рассмотрела опасения Блейка в соответствии с нашими принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения. Ему сказали, что нет никаких доказательств того, что LaMDA разумен (и много доказательств против этого)», — сказал пресс-секретарь Брайан Гэбриел.
Интервью ЛаМДА. Google может назвать это совместное использование проприетарной собственностью. Я называю это обсуждением, которое у меня было с одним из моих коллег.https://t.co/uAE454KXRB
— Блейк Лемуан (@cajundiscordian) 11 июня 2022 г.
«Конечно, некоторые в более широком сообществе ИИ рассматривают долгосрочную возможность разумного или общего ИИ, но не имеет смысла делать это, антропоморфизируя сегодняшние разговорные модели, которые не являются разумными», — сказал Габриэль. «Эти системы имитируют обмен репликами, встречающийся в миллионах предложений, и могут затрагивать любую фантастическую тему».
«Сотни исследователей и инженеров общались с LaMDA, и мы не знаем, чтобы кто-то еще делал широкомасштабные утверждения или антропоморфизировал LaMDA, как это делал Блейк», — сказал Габриэль.
Профессор лингвистики дал интервью ВаПо согласился, что неправильно приравнивать убедительные письменные ответы к разуму. «Теперь у нас есть машины, которые могут бездумно генерировать слова, но мы не научились перестать воображать, что за ними стоит разум», — сказала профессор Вашингтонского университета Эмили М. Бендер.
Тимнит Гебру, Известный специалист по этике ИИ Google уволен в 2020 году (хотя поисковый гигант утверждает, что она ушла в отставку), сказал, что обсуждение разума ИИ рискует «сорвать» более важные этические разговоры, связанные с использованием искусственного интеллекта. «Вместо того, чтобы обсуждать вред этих компаний, сексизм, расизм, колониализм ИИ, централизацию власти, бремя белого человека (построение хорошего «AGI» [artificial general intelligence] чтобы спасти нас, в то время как то, чем они занимаются, является эксплуатацией), провела все выходные, обсуждая разум», — сказала она. твитнул. «Миссия по спуску с рельсов выполнена».
Несмотря на свои опасения, Лемуан сказал, что намерен продолжить работу над ИИ в будущем. «Я намерен оставаться в ИИ независимо от того, поддерживает ли меня Google или нет», — сказал он. написал в твиттере.
Обновление от 13 июня, 6:30 утра по восточному времени: Обновлено дополнительным заявлением от Google.