США проводят тесты безопасности ИИ от Google и Microsoft

Министерство торговли США заключило новые соглашения с Google, Microsoft и xAI о проведении добровольных тестов безопасности искусственного интеллекта. Эти договоры продолжают политику, начатую при администрации Байдена, и направлены на проверку моделей ИИ перед их выпуском на рынок.

Соединённые Штаты расширяют программу добровольного тестирования безопасности искусственного интеллекта, заключив новые соглашения с ведущими технологическими компаниями. Google, Microsoft и xAI согласились участвовать в проверках моделей ИИ, проводимых Министерством торговли США. Данная инициатива является частью более широких усилий по обеспечению безопасной разработки и внедрения новейших систем искусственного интеллекта.

Новые соглашения строятся на основе договоров, подписанных во время администрации Джо Байдена, и демонстрируют продолжающуюся приверженность США контролю над развитием ИИ-технологий. Компании будут добровольно предоставлять информацию о результатах тестирования безопасности, прежде чем выпускать новые версии своих ИИ-моделей. Это позволяет государственным органам лучше понять потенциальные риски и уязвимости перед тем, как технология станет доступна широкой общественности.

Программа тестирования включает проверку моделей на предмет возможности генерирования вредоносного контента, распространения дезинформации и других потенциальных проблем безопасности. Добровольный характер соглашений позволяет компаниям оставаться гибкими в своих подходах к разработке, при этом обеспечивая определённый уровень государственного надзора. Эксперты считают, что такой подход является компромиссом между необходимостью инноваций и обеспечением защиты общественных интересов.

Расширение программы отражает растущие озабоченности международного сообщества по поводу безопасности искусственного интеллекта. Министерство торговли США указывает на то, что эти добровольные соглашения помогают создать стандарты безопасности, которые могут быть приняты другими странами и компаниями, работающими с технологиями ИИ.