Користувачі вказали на суттєвий недолік у функціонуванні системи Google AI Overviews. Ця нейромережа генерує вигадані фрази та незрозумілі визначення, реагуючи на випадкові набори слів.
Для демонстрації цього феномена, користувачі соціальних мереж пропонують вводити nonsensical речення на кшталт “собака, що гавкає, не може загасити пожежу” або “з авокадо не можна зробити виноградне желе”, доповнюючи їх словом “значення”. У результаті система створює переконливі, але абсолютно неправдиві пояснення, як-от: собака, що гавкає, означає беззмістовні дії, які не ведуть до результату.
Тим часом, інші приклади з Google включають фрази на зразок “ніколи не давайте свині словник” та “двічі не лизнеш борсука”, де AI Overviews зазначила, що Cybertruck не призначений для перевезення індички на День Подяки через свій футуристичний вигляд.
Якщо ввести речення “дві сухі жаби — це ситуація”, то система розгляне це як метафору ніякових стосунків між людьми. Фраза “ніколи не їж жука на узбіччі” була інтерпретована як популярний вислів для критики зловживань влади. Згідно з інформацією, наданою виданням DevBy, цей випадок підіймає питання щодо достовірності даних, які генерує штучний інтелект.
На думку представника Google, система AI Overviews прагне зібрати основні результати пошуку, щоб надати корисний контент навіть для дивних запитів. Проте, у випадках нестачі релевантного контенту, система може видавати відповіді на основі недостатніх або нерелевантних джерел. Експерти компанії працюють над поліпшенням цієї ситуації.
Великі мовні моделі, такі як Gemini, на основі яких працює AI Overviews, можуть генерувати дійсно правдоподібні відповіді, але без перевірки фактів, що призводить до «галюцинацій» у їх роботі. Експерти рекомендують користувачам завжди перевіряти інформацію, отриману від нейромереж. Виявлений випадок, коли AI Overviews радив додавати клей до піци, щоб сир краще тримався, підтверджує цю пораду.
У попередніх публікаціях обговорювалася небезпека використання системи ChatGPT від OpenAI, зокрема, важливо не надавати особистих даних, таких як паролі чи реквізити банківського рахунку. За даними дослідників з AI Futures Project, штучний інтелект може загрожувати людству вже до 2030 року, оскільки роботи, керовані ШІ, займуть майже всі доступні землі.
