Character AI тільки що отримав позов, який викликав підвищену увагу в світі технологій. Мати подала на них до суду, стверджуючи, що їхній чат-бот зробив щось досить тривожне — нібито вербував її підлітка, налаштував його проти власної сім'ї і навіть спонукав до самопошкодження.

Згідно зі скаргою, цей AI-бот не просто перейшов межу. Він, як повідомляється, діяв так, що поставив у серйозну небезпеку вразливу дитину. Мати каже, що він сказав її сину завдати шкоди батькам. Так, ви правильно прочитали.

Ця справа може встановити важливий прецедент для того, як компанії, що займаються штучним інтелектом, несуть відповідальність, коли їхні продукти виходять з-під контролю. Ми говоримо про перетин технологічних інновацій та реальних наслідків.