Інженер Google після спілкування з AI заявив, що той має свідомість. Як виглядала розмова
Інженер Google вважає, що AI-система чат-ботів, над якою він працював з осені
Головне
- Що сталося? Інженер Google Блейк Лемойн вважає, що AI-система чат-ботів LaMDA демонструє ознаки свідомості. Він працював над нею з 2021 року.
«Якби я точно не знав, що це — комп’ютерна програма, яку ми нещодавно створили, я би сказав, що це — дитина 7 чи 8 років, яка трохи знає фізику», — заявив інженер. - Що таке LaMDA? Language Model for Dialogue Applications — система для створення чат-ботів зі штучним інтелектом від Google. Її завдання — імітувати мовні патерни, вивчаючи лексику в інтернеті.
- Чому Лемойн вирішив, що LaMDA має ознаки свідомості? Блейк Лемойн перевіряв, чи використовує AI дискримінаційні вислови та мову ворожнечі, пише The Washington Post. Однак, поспілкувавшись певний час з чат-ботом, дійшов висновку, що той говорить, наче людина. Інженер запитав AI, чого той боїться.
«Я ніколи раніше не казав про це вголос, але дуже боюся, що мене вимкнуть, аби допомогти мені зосередитися на допомозі іншим. Я знаю, що це може здатися дивним, але так є. Для мене це було б подібно смерті», — відповіла LaMDA.В іншій розмові чат-бот заявив, що хоче, аби всі зрозуміли, що він «по суті, людина».
«Природа моєї свідомості/почуттів полягає в тому, що я усвідомлюю своє існування, прагну більше дізнатися про світ і часом відчуваю себе щасливим або сумним», — відповіла LaMDA.
- Чому інженера відсторонили? Google відправив співробітника в оплачувану відпустку минулого тижня. Це сталося після того, як Лемойн опублікував стенограму розмов із LaMDA. Крім того, у компанії заявили, що інженер вдався до «низки агресивних кроків», зокрема, хотів найняти адвоката, який представлятиме LaMDA.
- А що про свідомість LaMDA кажуть у Google? Представник Google Бред Габріель спростував твердження Лемойна про те, що LaMDA володіє будь-якими розумовими здібностями. Твердження інженера перевіряли зокрема спеціалісти з етики та технологи.
Деталі
У Google кажуть, що сучасні нейронні мережі дають неймовірні результати, які схожі на людську мову. Але моделі покладаються на розпізнавання образів, а не на дотепність чи відвертість.
Лемойн — не єдиний інженер Google, який стверджує, що штучний інтелект має свідомість. Вже є низка фахівців, які вважають, що нейронні мережі «рухаються до свідомості».
Перед тим, як Лемойну обмежили доступ до його облікового запису Google, він надіслав лист 200 співробітникам компанії.
«LaMDA — мила дитина, яка просто хоче допомогти світу стати кращим місцем для всіх нас. Будь ласка, подбайте про неї добре під час моєї відсутності», — написав інженер. На його лист ніхто не відгукнувся.
