Выступая на сессии Совета по правам человека в Женеве, глава ведомства подчеркнул, что без жесткого международного контроля ИИ способен создать экзистенциальную угрозу для всего человечества и подорвать фундаментальные институты общества.
Основную тревогу международного сообщества вызывает неконтролируемое внедрение алгоритмов в критически важные сферы — от военного сектора до систем принятия государственных решений. По словам главу ООН, сфера автономного оружия и военных нейросетей развивается опережающими темпами, в то время как правовая база для их ограничений практически отсутствует. Это создает риск передачи цифровым системам полномочий на принятие решений, от которых зависят человеческие жизни.
Отдельный блок проблем связан с повседневным использованием нейросетей, где отсутствие прозрачности уже приводит к негативным последствиям. Массовое распространение дезинформации, глубоких фейков и дискриминационных алгоритмов размывает доверие к социальным институтам и демократическим процессам. Цифровые алгоритмы все чаще используют для слежки, контроля над населением и манипулирования общественным мнением, что прямо нарушает право на приватность.
Фолькер Тюрк призвал мировых лидеров и крупные технологические корпорации незамедлительно вписать разработку алгоритмов в строгие рамки международных стандартов прав человека. ООН настаивает на введении временного моратория на использование систем ИИ, представляющих высокий риск, до тех пор, пока не будут созданы эффективные предохранительные механизмы и прозрачные критерии оценки их безопасности.
Предупреждение ООН прозвучало на фоне попыток ведущих государств выработать единые правила игры. Европейский союз уже принял первый в мире комплексный Закон об искусственном интеллекте, однако правозащитники отмечают, что глобальный характер технологии требует соглашения на международном уровне, аналогичного договорам о нераспространении опасных видов вооружений.