Хрещений батько ШІ попередив про появу розумніших за людину істот

Джеффрі Хінтон – нобелівський лауреат і один із творців сучасного штучного інтелекту – вважає, що людство вже зараз створює новий вид істот, які незабаром перевершать нас за інтелектом. Про це він заявив на саміті Sana AI у Нью-Йорку, повідомляє «Главком» з посиланням на Fortune.

Хто такий Хінтон і чому його слухають

Джеффрі Хінтон – британсько-канадський вчений, якого називають «хрещеним батьком» штучного інтелекту. Він десятиліттями розробляв штучні нейронні мережі – ту саму технологію, що лежить в основі ChatGPT та інших сучасних систем ШІ. У 2024 році він отримав Нобелівську премію з фізики, а у 2023-му пішов з Google, щоб відкрито говорити про небезпеку того, що створив.

Розумніші за Ейнштейна – і скоро

На саміті Хінтон висловився без застережень: ШІ стане значно розумнішим за людину. У закритих системах із чіткими правилами – як-от математика – ШІ вже здатен самостійно генерувати гіпотези, перевіряти їх і вчитися на помилках без нових зовнішніх даних. Того ранку, за словами вченого, ШІ довів одну з теорем математика Пола Ердоша – застосувавши метод, який раніше нікому не спадало на думку використати.

«Я думаю, що за 20 років ми побачимо щось подібне до Ейнштейна», – сказав Хінтон. Ніхто більше не зможе перемогти ШІ в шахи чи ґо, а найближчим часом машини перевершать і найкращих математиків світу.

Проблема не в інтелекті, а в характері

Хінтон вважає, що справжня небезпека – не в тому, наскільки розумним стане ШІ, а в тому, яким він буде як істота. Компанії зараз змагаються за найпотужніший продукт – але ніхто всерйоз не думає над тим, щоб зробити ШІ добрим і безпечним для людей.

Він провів паралель із еволюцією: людська жорстокість, трибалізм і схильність до конфліктів – результат мільйонів років природного відбору. Те саме зараз відбувається у світі ШІ, але в режимі квартальних звітів. «Якщо я маю фондові опціони і хочу швидко дійти до трильйона – я просто будую величезний комп'ютер і йду далі. Якщо мене цікавить майбутнє людства – я шукаю інший підхід», – зауважив Хінтон.

Рішення, на його думку, ближче до виховання дитини, ніж до інженерії. «Ви б навчали дитину читати на щоденниках серійних убивць? Мабуть, ні. Ось вам і відповідь», – пояснив він свій підхід до вибору навчальних даних для ШІ.

Є й ті, хто не погоджується

Когнітивний вчений Гері Маркус опублікував різку відповідь: мовні моделі не є «істотами» – вони лише імітують мову реальних істот, передбачаючи наступне слово. Свідомість, на його думку, – це внутрішні стани, а не поведінкові реакції. Папа Римський Лев XIV також висловився лаконічно: «Справжнє розуміння приходить із досвіду, а не з наближення тексту».

Хінтон завершив виступ жартом. Його запитали, чи порівнює він себе з Робертом Оппенгеймером – творцем атомної бомби, який згодом пожалкував про свою роботу. «Оппенгеймер так і не отримав Нобелівську премію з фізики», – відповів він.

Нагадаємо, «Главком» повідомляв, що раніше Хінтон оцінював імовірність знищення людства через ШІ у 10%, а згодом підвищив прогноз до 20%. До слова, група дослідників ШІ попередила: штучний суперінтелект може з'явитися вже за 2–5 років і стати неконтрольованим.