Співробітники Google DeepMind попереджають про ризики штучного інтелекту

Група нинішніх і колишніх співробітників компаній штучного інтелекту, включно з Microsoft, відкриває нову вкладку OpenAI та Alphabet. Google DeepMind висловив занепокоєння щодо ризиків, пов’язаних із новою технологією. Про це повідомляє Reuters.

У відкритому листі групи з 11 співробітників OpenAI та двох співробітників Google DeepMind йдеться, що фінансові мотиви компаній зі штучним інтелектом перешкоджають ефективному нагляду за роботою ШІ.

«Ми не вважаємо, що створених на замовлення структур корпоративного управління достатньо, щоб змінити це», – додається в листі.

Він також попереджає про ризики, пов’язані з нерегульованим ШІ, починаючи від поширення дезінформації до втрати незалежних систем ШІ та поглиблення існуючої нерівності, що може призвести до «вимирання людства».

Дослідники виявили приклади генераторів зображень, зокрема OpenAI і Microsoft, які створюють фотографії з дезінформацією.

Компанії зі штучним інтелектом мають «слабкі зобов’язання» ділитися інформацією з урядами про можливості та обмеження своїх систем, йдеться в листі.

Група закликала фірми, які займаються штучним інтелектом, сприяти процесу розголосу співробітників.

Нагадуємо, що окремо очолювана Семом Альтманом фірма заявила, що вона зірвала п’ять таємних операцій впливу, спрямованих на використання її моделей штучного інтелекту для «оманливої ​​діяльності» в Інтернеті.