Anthropic пошла на беспрецедентный шаг, предоставив исследовательской группе METR доступ на уровне сотрудников. Это позволяет METR проводить глубокий аудит практик, инцидентов и рисков, связанных с разработкой и эксплуатацией ИИ-моделей Anthropic.
Важной частью соглашения стало то, что Anthropic отказалась от права блокировать публикации METR, что гарантирует независимость и прозрачность выводов.
Такой уровень открытости — редкость в индустрии ИИ, где компании обычно ограничивают доступ к внутренним данным, опасаясь утечек и репутационных рисков.
Это движение может стать новым стандартом для оценки безопасности и этичности ИИ, повышая доверие со стороны бизнеса и регуляторов.
Для бизнеса это сигнал о том, что крупные игроки готовы к открытому диалогу и совместной работе над снижением рисков ИИ.
Anthropic демонстрирует новый уровень прозрачности в индустрии ИИ, что важно для компаний, использующих ИИ-технологии. Открытый аудит и независимые оценки рисков помогают бизнесу лучше понимать потенциальные угрозы и строить более безопасные продукты на базе ИИ.
Материал подготовлен редакцией VOSHOD по открытому источнику. Мы сокращаем и адаптируем текст, чтобы выделить практический смысл.