«Исторический» закон по искусственному интеллекту. Чего опасаются в ЕС


Европейский Союз в пятницу принял самый первый в мире комплексный закон по регулированию искусственного интеллекта (ИИ), информирует Украинская редакция «Голоса Америки». Как сообщило британское издание Guardian, закон, который называют «историческим», введет стандарты поведения для производителей технологий ИИ, таких как OpenAI. В 27 странах-членах ЕС закон также будет регулировать социальные сети, такие как Meta, X и TikTok, и поисковые системы типа Google.

Закон об ИИ ( AI Act на английском) между Европейским парламентом и государствами-членами ЕС может ввести мировой стандарт для классификации рисков, связанных с ИИ, а также обеспечение прозрачности разработок в этой сфере и определение мер финансового наказания для компаний-нарушителей.

Закон позиционирует Европейский Союз впереди США, Китая и Великобритании в попытках урегулировать ИИ и защитить граждан от рисков, связанных с этими бурно развивающимися новыми технологиями, включая потенциальные угрозы жизни людей, отмечает издание Washington Post , ЕС издавна был мировым лидером в законодательном решении проблем конфиденциальности в цифровой эпохе, социальных сетях и медиа и т.д., добавляет американская газета.

“У нас была одна цель – принять законодательство, которое обеспечит развитие экосистемы искусственного интеллекта в Европе с ориентированным на человека подходом, уважая фундаментальные права, человеческие ценности, укрепляя доверие, развивая осознание того, как мы можем получить лучшее от этой революции искусственного интеллекта, которая происходит на наших глазах”, — отметил депутат Европарламента Брандо Бенефеи , сопредседатель переговорной группы парламента по Закону об ИИ, который цитирует Guardian .

«Мы первые в мире установили реальное регулирование для ИИ и будущего цифрового мира, управляемого ИИ, направляя развитие и эволюцию этой технологии в человекоцентрическом направлении», – отметил его коллега Драгош Тудораке , румынский депутат Европарламента, возглавлявший четырехлетнюю работу Европейского парламента по регулированию ИИ, отмечает издание.

С тех пор, как закон вступит в силу – что произойдет не ранее 2025 года – технологические компании, которые будут стремиться работать и продавать свои продукты на основе ИИ в рамках ЕС, будут вынуждены делиться своими данными с регуляторами и проводить тщательное тестирование ИИ.

Эти правила будут относиться к крупнейшему западному экономическому блоку, который имеет 450 миллионов потребителей.

Суть европейского Закона об ИИ

Официальные лица ЕС пока не разглашают многие детали нового закона. Известно, что в основу его заложена многоуровневая система, базирующаяся на оценке рисков, сообщает Guardian. Согласно ей, самый высокий уровень и будет применен к тем технологиям ИИ, которые представляют наибольший риск для здоровья, безопасности и прав человека. К таким продуктам «высокого риска» относятся, например, беспилотные автомобили или медицинское оборудование, добавляет Washington Post.

В окончательном варианте закона категория наивысшего риска определена количеством компьютерных операций, необходимых для обучения модели, известных как «сделки с плавающей запятой за секунду» (или Flops на английском).

Газета Guardian отмечает, что в настоящее время существует только одна модель – GPT4 , разработанная компанией OpenAI – подпадающая под это определение. Следовательно, закон во многом направлен на обеспечение регулирования будущих моделей ИИ.

Что касается низшего уровня регулирования, введенного в законе, то он все равно предусматривает значительные обязательства для компаний-разработчиков ИИ, включая требования по раскрытию данных, использованных для обучения моделей любого уровня.

Известно, что Франция, Германия и Италия приложили усилия в конце процесса, чтобы внести изменения, направленные на смягчение некоторых положений законопроекта, против которых решительно выступили представители Европейского парламента, отмечает Washington Post.

Для того, чтобы подчеркнуть сложность принятых решений, еврокомиссар Тьерри Бретон сообщил, что для заключения соглашения около 100 представителей Еврокомиссии, Европарламента и государств-членов ЕС провели вместе в комнате почти 3 дня, в общей сложности потратив около 37 часов на финальные переговоры. Согласно процедурам ЕС Европейская Комиссия выдвигает законопроекты, а Европейский совет и Европейский парламент принимают их.

Тьерри Бретон Языковые модели отнесли к самым противоречивым

Следовательно, в законе заложены компромиссы по наиболее противоречивым аспектам, в частности по регулированию гигантских базовых языковых моделей, таких как ChatGPT, которые собирают данные для своего обучения в интернете, и по использованию технологий ИИ для нужд правоохранительных органов ЕС.

А именно, как пояснил еврокомиссар Бретон, на которого ссылается Guardian, закон предусматривает запрет на использование технологий ИИ полицией, работодателями или торговыми заведениями для слежки за людьми в реальном времени, включая эмоциональное распознавание .

Единственные исключения составляют ситуации, когда полиция нуждается в использовании инвазивных технологий ИИ из-за неожиданной угрозы теракта, а также для поиска жертв торговли людьми и для расследования серьезных преступлений, таких как убийства, изнасилования и т.д.

«Мы никогда не пытались лишить правоохранительных органов инструментов, необходимых им для борьбы с преступностью, инструментов, необходимых для борьбы с мошенничеством, инструментов, необходимых для обеспечения безопасной жизни граждан. Но мы хотели – и мы этого добились – запретить технологии искусственного интеллекта, которые будут делать вывод или заранее определять, кто может совершить преступление”, – сказал Тудораке, которого цитирует Guardian.

Хотя закон предусматривает ограничение для базовых моделей ИИ крупных компаний, он также содержит исключения для «моделей с открытым исходным кодом», то есть таких, которые разработаны с использованием кода, имеющегося в свободном доступе для разработчиков, добавляет Washington Post.

Это может способствовать европейским компаниям-разработчикам ИИ с открытым кодом, которые были против закона, в частности французской Mistral и немецкой Aleph Alpha , а также американской компании Meta , владелице Facebook , владеющей моделью ИИ с открытым кодом LLaMA.

Согласно новому закону, нарушающим его компаниям может грозить штраф размером до 7 процентов мирового дохода компании, в зависимости от типа нарушения и размера компании-нарушительницы.

Вдобавок, влияние европейского закона может быть ощутимо далеко за пределами континента, ведь после приспособления к европейским правилам, компаниям-разработчикам ИИ может быть невыгодно переучить свои модели для неевропейских рынков.

«Это законодательство станет стандартом, моделью для многих других юрисдикций», — отметил Тудораке, цитируемый Washington Post.

Регулирование ИИ в США «на начальных стадиях»

Тем временем в США президент Джо Байден 30 октября этого года подписал распоряжение о регулировании искусственного интеллекта, что стало самой масштабной попыткой регулирования в этой сфере в стране до сих пор, пишет Washington Post в отдельной статье.

Байден назвал ИИ «важнейшей технологией нашего времени», в то время как критики технологий ИИ указывают на ее «почти безграничную угрозу».

Президент США Джо Байден

Распоряжение появилось на фоне сообщений о том, что работа над соответствующим законодательством по урегулированию вопросов ИИ в Конгрессе США находится на начальных стадиях. Распоряжение коснулось широкого спектра вопросов, включая новые требования по безопасности продуктов, наложенные на разработчиков ИИ, и обязательства для различных федеральных служб смягчить риски от использования ИИ, в частности в собственной работе служб.

Используя чрезвычайные полномочия, которые предоставляет «Закон об оборонном производстве» 1950-го года, Байден в распоряжении, среди прочего, обязал компании-разработчики наиболее совершенных моделей ИИ проводить тесты на безопасность и сообщать правительству об их результатах, прежде чем продукты компаний станут доступны потребителям.

В то же время, администрация президента США ограничена в своем регуляторном влиянии без принятия соответствующего законодательства Конгрессом. Как отмечает Washington Post, распоряжение Байдена призывает Конгресс «принять двухпартийное законодательство о конфиденциальности данных, чтобы защитить всех американцев, особенно детей», что является молчаливым признанием ограничений исполнительных полномочий Байдена в этой сфере.

Одновременно с подписанием президентского распоряжения страны G7 обнародовали добровольный Международный кодекс поведения для организаций, разрабатывающих передовые системы ИИ. Рекомендации кодекса призывают компании-разработчики регулярно оценивать риски своих моделей, а также уделять особое внимание системам, которые могут представлять угрозу демократическим ценностям или обществу, например путем помощи в создании биологического или ядерного оружия, добавляет Washington Post.

Роскомнадзор пытается заблокировать доступ к сайту . Беспрепятственно читать можно с помощью зеркального сайта: https://d25dy9aqmwe3s5.cloudfront.net/следите за основными новостями в Telegram , Instagram и Viber . Рекомендуем вам установить VPN.

Предыдущая В «Крымэнерго» уволили руководство и открыли новую горячую линию
Следующая За присвоение земли на 3,5 млн рублей крымчане пойдут под суд

Нет комментариев

Комментировать

Ваш адрес email не будет опубликован.