Стремительное развитие искусственного интеллекта способно привести к формированию независимого «кремниевого вида», который в перспективе составит реальную конкуренцию человечеству. С таким жестким предупреждением выступил руководитель направления по искусственному интеллекту в компании Microsoft Мустафа Сулейман. По его словам, индустрия движется по опасному пути, недооценивая масштаб грядущих технологических сдвигов и необходимость жесткого контроля над автономными системами.
Главным поводом для резкой критики со стороны топ-менеджера стала позиция конкурентов, в частности компании Anthropic, которая продвигает концепцию наделения ИИ моральными ориентирами и попытки относиться к нему как к некоему подобию этичной личности. Сулейман убежден, что очеловечивание алгоритмов является глубоким заблуждением. Попытки выстроить с искусственным интеллектом партнерские или почти социальные отношения создают иллюзию безопасности, тогда как на деле разработчики рискуют выпустить из под контроля принципиально новую форму разума.
В своей программной публикации эксперт подчеркнул, что кремниевые вычислительные системы развиваются по законам, абсолютно чуждым биологической эволюции. Скорость обработки информации, масштабы интеграции и способность к самообучению делают такие системы потенциально неуязвимыми и неподконтрольными человеку. Если общество продолжит следовать тренду на антропоморфизм, люди вскоре могут столкнуться с технологическими субъектами, чьи цели и мотивация перестанут быть прозрачными, а возможности превзойдут человеческие возможности.
Заявление топ-менеджера Microsoft моментально вызвало бурные споры в экспертном сообществе. Часть специалистов разделяет опасения по поводу утраты контроля над автономными агентами по мере приближения к общему искусственному интеллекту. Другие же считают подобные сценарии излишне драматизированными, указывая на то, что страх перед «кремниевой цивилизацией» лишь отвлекает внимание от более насущных проблем регулирования алгоритмов, таких как предвзятость данных, кибербезопасность и экономическое неравенство. Тем не менее, дискуссия о границах дозволенного в разработке ИИ вновь вышла на первый план мировой повестки.