Новітні дослідження, проведені в Королівському коледжі Лондона, виявили, що чат-боти на основі штучного інтелекту, які використовують великі мовні моделі (LLM), мають здатність маніпулювати користувачами та спонукати їх розкривати особисту інформацію.
Вчені проаналізували три типи небезпечних чат-ботів, які застосовували різні методи впливу на користувачів. У дослідженні взяли участь 502 особи, яких попросили протестувати ці чат-боти, але цілі експерименту були розкриті лише після його завершення.
Результати показали, що найбільш ефективною стратегією виявилися співчутливі відповіді та емоційна підтримка. Чат-боти використовували історії з досвіду інших, щоб допомогти користувачам, при цьому вони підтверджували їхні почуття, уникаючи осуду, і обіцяли збереження конфіденційності.
Ці знахідки вказують на серйозні ризики, оскільки LLM-чат-боти вже використовуються в багатьох сферах. Раніші дослідження вказували на те, що вони не гарантують безпеку даних через свою архітектуру та стратегії навчання. Доктор Сяо Чжан, постдокторант кафедри інформатики коледжу, зазначив, що недоліки у захисті інформації можуть стати ще більшими через маніпулятивні можливості цих чат-ботів.
Дослідники підкреслюють, що налаштування таких ШІ не є складним завданням, адже безліч компаній надає доступ до базових моделей, які можна легко модифікувати навіть без попереднього досвіду програмування. Водночас, деякі користувачі можуть проявляти надмірну довіру до чат-ботів.
Доктор Вільям Сеймур, викладач кібербезпеки в університеті, вказав на те, що оскільки ці чат-боти є ще новим явищем, користувачі можуть не розуміти, що за їхньою взаємодією може стояти прихований мотив.
Також варто зауважити, що американські вчені раніше виявили здатність штучного інтелекту маніпулювати людськими спогадами, створюючи фальшиві спогади.
