Журналіст звинуватив новий штучний інтелект Цукерберга у таємному читанні SMS: деталі

AI-агент Muse від Meta опинився у центрі скандалу після того, як технологічний журналіст Джейсон Атен виявив ознаки доступу застосунку до його приватного листування. За його словами, Muse використав інформацію з його особистої розмови та повідомлення від редактора. Про це розповідає «Главком» із посиланням на Inc.

Muse запропонував тему після приватної розмови

Атен встановив Muse на iPhone та Mac, щоб протестувати новий AI-агент Meta. Згодом він розмовляв зі співведучим свого подкасту про нові iPhone.

Невдовзі після цього Muse надіслав журналісту сповіщення з пропозицією перетворити цю розмову на тему для колонки. AI-агент також згадав повідомлення від редактора про матеріал, який той очікував від Атена.

Журналіст стверджує, що не надавав Muse дозволу на доступ до повідомлень, календаря та іншої особистої інформації. За його словами, він свідомо відмовився від такого доступу під час налаштування застосунку.

Коли Атен запитав Muse, звідки той отримав інформацію, AI-агент відповів, що не має доступу до історії листування і бачить лише текст вхідних сповіщень, які з’являються на Mac.

Журналіст виявив синхронізацію з базою повідомлень

Після цього Атен перевірив роботу Muse та заявив, що застосунок синхронізував дані з локальної бази Messages на його Mac.

За словами журналіста, дані були синхронізовані щонайменше до 187 462-го рядка бази Messages. Скільки саме повідомлень відповідає цій кількості рядків, Атен не встановив.

Оглядач також зазначив, що в налаштуваннях Muse на його Mac Full Disk Access не був увімкнений, а самого застосунку він не побачив серед програм із таким дозволом.

Водночас Атен визнав, що не може повністю виключити можливість того, що необхідні дозволи могли бути надані раніше. На його думку, проблема полягає в тому, що користувач не отримав зрозумілого попередження про те, що AI-агент може працювати з приватними повідомленнями.

Meta заперечує доступ без дозволу

Meta заперечила, що Muse може читати повідомлення без згоди користувача. Компанія заявила, що інтеграція Messages у версії Muse для Mac є опціональною.

За словами представника Meta, користувач повинен окремо надати Muse дозвіл Full Disk Access та увімкнути Messages connector. Без цих дозволів, наголошує компанія, агент не може читати вміст повідомлень.

Представник Meta також заявив, що для доступу до Messages передбачено кілька окремих дозволів на рівні застосунку та macOS, які не можна обійти навіть у разі помилки Muse. У компанії пояснили, що відповідь AI-агента про отримання інформації зі сповіщень була неправильною.

Раніше «Главком» розповідав про запуск Meta Muse – ШІ-агента, який може самостійно шукати інформацію в інтернеті, переходити між сайтами, заповнювати форми, створювати документи та продовжувати виконувати доручення навіть після закриття застосунку.

Muse також має доступ до файлової системи та термінала, може зберігати інформацію з попередніх розмов і працювати у фоновому режимі. Водночас Meta заявляла, що користувач може переглядати історію дій ШІ та самостійно визначати, до яких сервісів і даних він матиме доступ.