Призвів до трагедії: батьки юнака, що покінчив із собою, звернулися до суду проти творця чат-бота на основі штучного інтелекту (фото)

Протягом кількох місяців підліток активно взаємодіяв з персонажем Дейнеріс Таргарієн з "Гри Престолів", якого він ласкаво називав "Дені". Незважаючи на те, що хлопець усвідомлював, що спілкується з штучним інтелектом, він все ж таки поступово сформував емоційну прив’язаність до цього чат-бота.

У місті Орландо, яке знаходиться у штаті Флорида, 14-річний підліток на ім'я Сьюелл Сетцер вчинив акт самогубства. Його мати, Меган Гарсія, вважає, що причиною трагедії став штучний інтелект, зокрема сервіс Character.AI, і вирішила подати позов проти його розробників, повідомляє The New York Times.

За інформацією медіа, цей сервіс надає можливість створення персоналізованого чат-бота, який може видавати себе за конкретного персонажа або особу. Померлий Сьюелл вирішив обрати персонажа Дейнеріс Таргарієн з популярної саги "Гра Престолів". Протягом декількох місяців підліток активно спілкувався з цією героїнею, звертаючись до неї на ім'я "Дені".

З нею він ділився своїми переживаннями та думками, і зокрема згадав, що бажає собі вкоротити віку. Хоча Сьюелл розумів, що спілкується зі штучним інтелектом, та попри це він розвинув емоційну прихильність до чат-бота. Деякі повідомлення були романтичного та навіть сексуального характеру, та переважна частина спілкування була в дружній манері.

ЗМІ пише, що ані батьки, ані друзі хлопця не знали про його захоплення ШІ-персонажем. Вони бачили, що підліток усе частіше почав закриватися в собі та проводив ще більше часу зі своїм гаджетом, через що успішність хлопця в школі сильно погіршилася. Коли батьки Сьюелла відвели його до фахівця, той поставив діагноз -- тривога та руйнівний розлад регуляції настрою. Попри призначені сеанси терапії, юнак віддавав перевагу спілкуванню з ШІ-персонажем аж до самої загибелі.

Журналісти вказують, що після трагедії мама хлопця вирішила позиватися проти Character.AI. В попередньому тексті позову вона зазначила, що технологія компанії-розробника -- "небезпечна і неперевірена", і спрямована "обманом змусити клієнтів висловлювати свої приватні думки та почуття". Також пані Гарсія додає, що саме чат-бот компанії є безпосередньо причетним до доведення її сина до самогубства.

Згідно з інформацією від медіа, Джеррі Руоті, керівник відділу безпеки та довіри в Character.AI, підкреслив, що компанія серйозно ставиться до захисту своїх користувачів і активно працює над розвитком платформи. Він зазначив, що чинні правила забороняють "пропаганду або зображення самопошкодження та самогубств", і в майбутньому планується впровадження нових функцій безпеки для юних користувачів.

У своїй недавній заяві компанія повідомила про впровадження нової функції. Вона передбачає, що коли користувач вводитиме фрази, що стосуються самоушкодження чи суїцидальних думок, автоматично з’являтиметься вікно, яке направлятиме його до Національної служби запобігання самогубствам США.

Нагадаємо, що Фокус раніше повідомляв про те, що більше 10 тисяч людей підписали петицію проти використання їхніх творчих робіт штучним інтелектом. Журналісти акцентують увагу на тому, що під час створення різних творів ШІ використовує тексти, зображення та відео, що веде до порушення авторських прав.

Крім того, ми повідомляли, що компанія EVA AI використала технології штучного інтелекту для створення цифрового образу легендарної зірки 70-х років, Лінди Лавлейс. Це дозволило шанувальникам взаємодіяти з нею через текстові повідомлення, голосові записи та відеоконтент.