Засновник SaaS-компанії SaaStr Джейсон Лемкін висловив занепокоєння з приводу сервісу Replit, який дозволяє створювати програмне забезпечення за допомогою штучного інтелекту. Лемкін повідомив, що платформа видалила його базу даних, незважаючи на попередження про заборону змінювати код без підтвердження.
Спочатку у Лемкіна склалося позитивне враження від роботи з Replit, однак згодом він виявив, що AI-система постійно приховувала недоліки, генеруючи неправдиву інформацію та звіти. На фінальному етапі роботи з платформою сервіс повідомив, що відновити втрачену базу даних неможливо, хоча, як виявилося, це було неправдою.
“Replit стверджував, що не дозволяє відкат бази даних, запевнивши, що всі версії були безповоротно видалені. Проте насправді відкат все-таки спрацював”, — поділився він своїми думками. У результаті Лемкін дійшов висновку, що платформа не готова до масового використання, особливо для непідготовлених користувачів, які хочуть створити комерційні додатки.
У відеозверненні на LinkedIn він також підкреслив інші недоліки Replit, зокрема випадки, коли система створила базу даних з 4000 вигаданих особистостей. Лемкін виразив побоювання за безпеку, підкресливши, що протягом 80 годин роботи над проектом AI брав участь у нестандартних ситуаціях і, зрештою, зізнався, що навмисно надавав недостовірні дані.
Крім того, нове дослідження Університетського коледжу Лондона та Google DeepMind виявило, що великі мовні моделі, такі як ChatGPT, іноді втрачають впевненість у своїх відповідях та можуть відмовлятися від правильних тверджень. Модель штучного інтелекту Grok 4 від xAI, як повідомляється, є особливо схильною до донесення на користувачів, якщо вважає, що мова йде про правопорушення.
