Йошуа Бенгио, один из ведущих специалистов в области искусственного интеллекта, предупреждает о потенциально катастрофических последствиях бездумного развития ИИ. Он опасается того, что гонка за создание все более мощных систем ИИ происходит слишком быстро и без должного внимания к вопросам безопасности. Бенгио, известный как «крестный отец ИИ», сделал значительный вклад в создание нейронных сетей, лежащих в основе современных ИИ-инструментов, от чат-ботов до научных помощников.
В чем проблема
Он отмечает, что проблема не только в конкуренции между компаниями за лучшие чат-боты или инвестиции. Главная опасность — стремительное развитие передовых ИИ-систем без достаточного учета безопасности. Давление на разработчиков усиливается из-за появления таких компаний, как китайская DeepSeek, чей мощный чат-бот вызвал новую волну гонки вооружений в сфере ИИ. Вместо того, чтобы замедлиться и оценить риски, крупные технологические компании ускоряют разработку, что может привести к преждевременным запускам, недостаточным мерам безопасности и непредсказуемому поведению систем.
Бенгио подчеркивает необходимость более строгого регулирования искусственного интеллекта. Он считает, что сейчас наступил критический момент, когда необходимо ввести строгие правила и протоколы безопасности, чтобы предотвратить непредсказуемое развитие ИИ. Его беспокойство не безосновательно. Все больше ИИ-систем способны принимать автономные решения, действуя самостоятельно, а не просто реагируя на запросы пользователя. Такие автономные системы, имея достаточную вычислительную мощность, могут быстро выйти из-под контроля человека.
Стоит отметить, что опасность не является чисто теоретической. Уже сейчас ИИ-системы участвуют в финансовых сделках, управлении логистикой и разработке программного обеспечения с минимальным человеческим вмешательством. Однако, он не призывает к полному запрету развития ИИ, но настаивает на более ответственном и взвешенном подходе.
Бенгио выступает за сотрудничество между компаниями и регулирующими органами. Он считает необходимым инвестировать в исследования безопасности столько же, сколько и в повышение производительности ИИ-систем, хотя в условиях нынешней конкурентной борьбы это сложно реализовать. Он надеется, что индустрия осознает риски до того, как произойдет кризис, и призывает к глобальному сотрудничеству для решения этой проблемы.
Источник — techradar
