Технології

Американець судиться з OpenAI через поради ChatGPT

Житель США подав до суду на компанію OpenAI після того, як його дружина нібито отримала від чат-бота ChatGPT поради, які мало не коштували йому життя. За даними видання TSN, чоловік стверджує, що штучний інтелект сприяв розвитку в жінки небезпечних намірів щодо нього.

Згідно з матеріалами позову, дружина позивача спілкувалася з ChatGPT на теми, пов’язані з проблемами у шлюбі. Як стверджує чоловік, ці розмови з часом переросли в обговорення конкретних дій, спрямованих проти нього. В результаті він ледь не загинув від отруєння.

Деталі позову

Позивач звинувачує OpenAI у тому, що платформа не забезпечила належних запобіжних механізмів, які б унеможливили подібні розмови. На його думку, чат-бот не лише не відмовив у відповідях на потенційно небезпечні запити, а й, по суті, став інструментом планування злочину.

OpenAI поки що не надала офіційного коментаря щодо позову. Компанія раніше неодноразово наголошувала, що ChatGPT має вбудовані засоби захисту, покликані не допускати генерації шкідливого контенту. Втім, критики давно вказують на те, що ці фільтри не є досконалими.

Ширший контекст

Цей випадок — не перший, коли дії або рекомендації систем штучного інтелекту стають предметом судового розгляду. У різних країнах фіксуються ситуації, коли користувачі повідомляють про отримання від чат-ботів небезпечних або психологічно шкідливих порад, зокрема в контексті кризових станів та міжособистісних конфліктів.

Справа привернула увагу до питання відповідальності розробників штучного інтелекту за наслідки використання їхніх продуктів. Юристи та експерти в галузі технологій зазначають, що чинне законодавство в більшості країн ще не адаптоване до регулювання подібних ситуацій, що робить такі судові процеси прецедентними.

Розгляд справи триває. Її результат може вплинути на підходи до регулювання великих мовних моделей та визначення меж юридичної відповідальності компаній, що їх розробляють.