Колишній дослідник Anthropic попереджає про ризики ШІ
Від Редакція УС
Експерт із Anthropic б'є на сполох щодо небезпек розвитку штучного інтелекту
Колишній дослідник Anthropic, однієї з провідних компаній у сфері розробки штучного інтелекту, виступив із публічним попередженням про ризики, які, на його думку, породжує ця технологія. В інтерв’ю BBC дослідник заявив, що серед співробітників галузі панує атмосфера страху через напрямок, у якому розвивається ШІ, і навіть вжив вираз «ми, співробітники, налякані», описуючи внутрішні настрої.
Ці заяви пролунали в особливо чутливий для галузі момент. Сам директор Anthropic нещодавно закликав до уповільнення темпів розробки штучного інтелекту, стверджуючи, що пов’язані з цією технологією ризики є «серйозними» і що наукова та бізнес-спільнота повинна поставитися до них відповідально, перш ніж рухатися далі.
Дискусія, що розколює галузь
Слова колишнього дослідника викликали неоднозначну реакцію. Критики всередині й поза межами галузі поставили під сумнів як тон, так і суть його тверджень, зазначивши, що подібні попередження можуть спричинити непропорційну суспільну тривогу або бути продиктовані особистими інтересами. Дискусія про те, наскільки правомірно гальмувати технологічні інновації з міркувань безпеки, не є новою, однак набуває особливої ваги, коли виходить від людей, які мали безпосередній доступ до розробки цих систем.
Anthropic відома саме тим, що ставить безпеку в центр своєї бізнес-моделі. Компанію заснували колишні співробітники OpenAI, і частину своєї репутації вона побудувала на обіцянці розробляти ШІ більш відповідально. Проте заяви цього колишнього співробітника свідчать про те, що навіть у організаціях із таким підходом зберігаються сумніви щодо того, чи є нинішній темп розвитку прийнятним.
Цей епізод відображає зростаюче напруження в екосистемі штучного інтелекту: конкурентний тиск між великими технологічними компаніями підштовхує до прискорення, тоді як частина самих фахівців галузі вимагає більшої обережності та посиленого регулювання. Міжнародні організації та уряди різних країн упродовж місяців намагаються сформувати нормативні рамки, які б збалансували інновації та безпеку, однак чіткого глобального консенсусу досі немає.
BBC, яка оприлюднила свідчення колишнього дослідника, не розкрила його повного імені, що стало ще одним приводом для критики з боку тих, хто ставить під сумнів вплив і достовірність цих заяв.