Искусственного интеллект, как и большинство технологий, использующих Интернет и персональные данные, может представлять угрозу для детей. По сути, мы только вступаем в новую эпоху генеративного ИИ, и все еще сталкиваемся с потенциальными рисками. OpenAI в сотрудничестве с Common Sense Media хочет помочь сделать ИИ безопасным для юных пользователей.
Безопасность работы с искусственным интеллектом сейчас одна из самых горячих тем для обсуждения в мире высоких технологий. Огромное количество данных аккумулируется и обрабатывается, а где оно используется, никому не известно. Не так давно произошла утечка нескольких диалогов с ChatGPT, и конфиденциальные данные оказались слиты. Кроме того, чат-боты с искусственным интеллектом способны создавать вредоносный или оскорбительный контент. Компании и регулирующие органы пытаются сделать ИИ безопасным для всех. Это очень сложная задача, поскольку технология и ее использование не регулируется практически никак.
Сэм Альтман сейчас занят в массе проектов. Помимо управления OpenAI, он сотрудничает с Samsung в создании ИИ-чипов и с Джони Айвом в разработке совершенно нового устройства, работающего на ИИ. Кажется, что у него и без того полно забот, но, согласно сообщениям Common Sense Media, Сэм Альтман работает с ней над разумными рекомендациями, которые сделают использование ИИ безопасным для детей. Они будут включать инструменты и учебные материалы по технологиям ИИ для семейного использования. Предупреждён — значит вооружён. Большинство родителей мало что не знают о генеративном ИИ и о связанных с этим инструментом рисках. Ликбезы будут чрезвычайно полезными.
Кроме того, компании собираются сосредоточиться на разработке GPT, удобного для младшего поколения, и выпустить его в продажу в GPT store. OpenAI запустил его совсем недавно, это торговая площадка, где люди могут размещать кастомные GPT.
Пока все находится на стадии планирования, поэтому неизвестно, что из этого получится. Только время покажет.
Источник — androidheadlines.com