Ведущие компании по искусственному интеллекту обещают контролировать риски
Семь крупнейших компаний объединяют усилия с Белым Домом, чтобы обеспечить безопасное использование ИИ
Семь ведущих компаний в области искусственного интеллекта объединяют свои усилия с Белым Домом, чтобы активно управлять рисками, связанными с этой технологией, сообщает пресс-служба президента США. Они приняли на себя обязательства, включающие тестирование безопасности своих ИИ-систем и публикацию результатов таких испытаний.
Amazon, Anthropic, Google, Inflection, Meta, Microsoft и OpenAI отправили своих представителей для объявления об этой инициативе вместе с президентом США Джо Байденом. Этот шаг был сделан в ответ на множество предупреждений о возможных угрозах, которые несет технология искусственного интеллекта.
Возросший темп разработки инструментов компаний вызывает опасения относительно распространения дезинформации, особенно в период подготовки к президентским выборам США в 2024 году.
"Мы должны быть бдительны и осознавать потенциальные угрозы, исходящие от новейших технологий, которые могут повлиять - не обязательно, но могут - на нашу демократию и наши ценности", - заявил президент Джо Байден в своем обращении в пятницу.
В среду компания Meta, владелец Facebook, представила свой новый инструмент искусственного интеллекта под названием Llama 2.
Сэр Ник Клегг, президент глобальных дел в Meta, рассказал BBC, что "шумиха вокруг технологии в некоторой степени опережает саму технологию".
В рамках подписанного в пятницу соглашения компании согласились на следующие меры:
- Тестирование безопасности своих систем искусственного интеллекта внутренними и внешними экспертами перед их выпуском.
- Внедрение водяных знаков для идентификации контента, созданного с помощью искусственного интеллекта.
- Публичная отчетность о возможностях и ограничениях их ИИ-технологий на регулярной основе.
- Исследование рисков, таких как предвзятость, дискриминация и нарушение частной жизни.
Основной целью является облегчение определения контента, созданного с помощью искусственного интеллекта, как подчеркнули представители Белого Дома.
"Это серьезная ответственность, и нам необходимо правильно справляться с ней. При этом потенциал огромен - огромные возможности", - подчеркнул г-н Байден.
Использование водяных знаков для контента, созданного с помощью искусственного интеллекта, обсуждалось на встрече комиссара Евросоюза Тьерри Бретона с генеральным директором OpenAI Сэмом Альтманом в июне.
"С нетерпением жду продолжения наших дискуссий, включая обсуждение вопроса о водяных знаках", - написал Бретон в твите, прикрепив видео, где он ведет диалог с г-ном Альтманом. В своем обращении на видео г-н Альтман сказал, что "очень скоро" покажет, что делает OpenAI с водяными знаками.
Подписанные в пятницу добровольные меры являются первым шагом к более строгому регулированию искусственного интеллекта в США. Как сообщили в Белом Доме, также готовится исполнительный указ.
Президентский офис также заявил о намерении сотрудничать со странами-партнерами для разработки международной рамки, регулирующей развитие и использование искусственного интеллекта.
Среди предупреждений относительно этой технологии стоит отметить возможность генерации дезинформации и дестабилизации общества, а также даже потенциальную угрозу для человечества. Впрочем, некоторые выдающиеся ученые в области компьютерных наук утверждают, что апокалиптические прогнозы являются преувеличенными.
