Професор інформатики про «Magnifica humanitas»: не делегувати судження машинам
Енцикліка Папи Лева XIV «Magnifica humanitas» допомагає по-новому осмислити вплив штучного інтелекту на людину та суспільство. На думку професора інформатики Римського університету «Ла Сапієнца» Вальтера Кваттрочоккі, документ застерігає від небезпеки підміняти людське судження алгоритмами та закликає відповідально ставитися до процесу формування знань і пошуку істини.
В інтерв’ю ватиканським медіа професор інформатики Римського університету «Ла Сапієнца» і директор Центру досліджень даних і складних суспільних систем Вальтер Кваттрочоккі поділився своїми роздумами над енциклікою Magnifica humanitas. На його думку, документ Лева XIV пропонує зрілий і виважений погляд на штучний інтелект, наголошуючи не лише на технологічних чи етичних питаннях, а й на тому, як нові системи впливають на людське судження, знання та суспільні відносини.
Вийти за межі протиставлення між захопленням і страхом
На думку італійського науковця, однією з найбільших заслуг енцикліки є те, що вона допомагає подолати поверхневу поляризацію між беззастережним захопленням штучним інтелектом та апокаліптичними прогнозами щодо його наслідків. «Magnifica humanitas зміщує акцент дискусії, яка коливається між наївним ентузіазмом і катастрофізмом», – зазначає Кваттрочоккі. За його словами, Папа пропонує замислитися над глибшим питанням: не над тим, чи машини здатні мислити, а над тим, «наскільки ці технології трансформують умови та критерії, за допомогою яких суспільство будує знання, судження та істину, а також відносини». Особливу увагу професор звертає на слова Лева XIV про те, що штучний інтелект не має людського досвіду, тіла чи здатності переживати стосунки, а тому не може бути ототожнений із людським способом пізнання світу.
Імітація судження не є справжнім судженням
Окрему увагу співрозмовник ватиканських медіа приділив поширеному переконанню, ніби мовні моделі мислять подібно до людини. Насправді ж, пояснює він, вони лише створюють переконливі тексти на основі статистичних закономірностей. «Ми бачимо мову і відразу схильні думати, що її створило щось, що мислить так само, як ми, але це зовсім не так», – наголошує науковець. Посилаючись на дослідження своєї наукової групи під назвою «Симуляція судження», Кваттрочоккі стверджує, що у виконанні складних завдань ці системи не здатні формувати по-справжньому надійні оцінки. «Ми маємо не судження, а симуляцію судження; ми маємо не взаємодію, а симуляцію взаємодії», – зазначає він. Людина здатна ставити під сумнів власні рішення, розпізнавати помилки та нести відповідальність за свої висновки, тоді як алгоритми працюють лише на основі статистичного передбачення наступних слів.
Коли правдоподібність підміняє істину
Найбільшу небезпеку Кваттрочоккі вбачає не в очевидних помилках штучного інтелекту, а в тому, що вони можуть залишатися непоміченими. За його словами, сучасне суспільство дедалі частіше ризикує підміняти перевірку фактів враженням правдоподібності. «Ризик полягає не стільки в тому, що помилка машини виявляється, скільки в тому, що вона не виявляється», – застерігає він. Науковець також висловлює занепокоєння тим, що дедалі більше людей делегують мовним моделям створення текстів і формування думок, не маючи інструментів для перевірки отриманої інформації. У результаті в публічному просторі поширюються повідомлення, які є «ідеально упакованими, але фактично порожніми».
Підсумовуючи, Кваттрочоккі називає енцикліку Лева XIV важливим внеском у сучасну дискусію про штучний інтелект. «Magnifica humanitas пропонує дуже чітке бачення, яке набагато менше схильне до інфантилізму та наївності», – зазначає він, додаючи, що головне питання, яке ставить документ, залишається надзвичайно актуальним: що станеться з людським суспільством, якщо воно почне делегувати власне судження машинам, які лише імітують взаємодію та розуміння?
Джерело: Vatican News
About The Author
