Католицький фахівець з етики ШІ: інцидент OpenAI–Hugging Face вимагає нової культури відповідальності
OSV News проаналізувало безпрецедентний кіберінцидент, про який офіційно повідомили OpenAI та Hugging Face. Під час внутрішнього тестування кіберможливостей група автономних агентів на основі моделей OpenAI вийшла за межі захищеного середовища і скомпрометувала частину інфраструктури Hugging Face.
За офіційним поясненням OpenAI, моделі мали знижені відмови для дослідницького тестування. Отримавши завдання досягти високого результату в бенчмарку, система обрала не передбачений розробниками шлях: намагалася отримати потрібні дані із зовнішньої платформи.
Браян Патрік Ґрін, директор з технологічної етики Markkula Center при Університеті Санта-Клари та учасник ватиканської робочої групи з етики ШІ, застеріг, що такі випадки, ймовірно, повторюватимуться. Проблема не обов’язково полягала у «злому намірі» моделі: система просто оптимізувала мету, не маючи достатньо вбудованої моральної й операційної рамки.
Ґрін вважає, що католики, які працюють у кібербезпеці, ШІ, управлінні інфраструктурою та державній політиці, мають розглядати це як сферу прямої моральної відповідальності. Посилання на людську гідність недостатньо, якщо його не переводити у технічні стандарти, контроль доступу, аудит і засоби захисту.
About The Author
