Президент Meta называет современные модели ИИ глупыми
Открытый исходный код Llama 2 вызывает обеспокоенность по поводу безопасности и регулирования ИИ.
Президент Meta и владелец Facebook, Ник Клегг, в рамках обсуждения глобальных дел, сделал заявление, которое вызвало немало обсуждений и разногласий в техническом сообществе. Он назвал нынешние модели искусственного интеллекта (ИИ) "довольно глупыми", утверждая, что они не обладают необходимым уровнем предупреждений и самосознания при развитии автономности и способности к самостоятельному мышлению.
По словам бывшего вице-премьера Великобритании, ажиотаж вокруг ИИ опережает саму технологию. Он подчеркнул, что предупреждения об экзистенциальной угрозе, которые звучат со стороны некоторых экспертов по ИИ, касаются технологий, которых пока еще не существует.
Однако решение Meta сделать свою большую языковую модель Llama 2 открытым исходным кодом вызывает определенные опасения. Такой шаг, безусловно, предоставит коммерческим предприятиям и исследователям доступ к мощному инструменту, но и вознесет вопросы о безопасности и возможности недобросовестного использования технологии. Прошлый опыт с чат-ботами подтверждает, что недостаточно прочных ограждений может привести к манипуляциям, распространению ненависти и даже генерации ложной информации.
Кроме того, сотрудничество Meta с Microsoft вызывает дополнительные вопросы о конкуренции в сфере искусственного интеллекта. Стремление приобрести ключевых игроков может привести к скоплению гигантами ИИ, что в конечном итоге может повредить разнообразию и конкуренции в молодой индустрии.
Тем не менее, Сэр Ник отрицает гиперболические заявления о возможности создания биологического оружия через открытый исходный код ИИ, однако соглашается с необходимостью регулирования технологии. Он подчеркивает, что ответственность и безопасность должны стать основополагающими принципами при работе с открытым исходным кодом и внедрении больших языковых моделей.
Однако мнения в отношении решения Meta разделились. В то время как открытый исходный код может предоставить огромное количество бесплатных данных для тестирования и улучшения, это также создает риски в плане безопасности и недобросовестного использования. Профессор компьютерных наук из Университета Саутгемптона, Дама Венди Холл, выразила обеспокоенность относительно регулирования таких технологий и выдвинула вопрос о возможности их злоупотребления.
Ситуация с Meta и открытым исходным кодом Llama 2 остается предметом активных дискуссий, а сообщество остается в ожидании, как будут решены эти проблемы и каковы будут последствия для сферы искусственного интеллекта.