Законопроект Anthropic предлагает новый подход к контролю за ИИ-моделями, ориентируясь на потенциальный масштаб ущерба для людей. Если оценка рисков показывает, что модель может стать причиной смерти 50 и более человек, её запуск может быть заблокирован.
Однако в документе есть важное ограничение: федеральные агентства не смогут самостоятельно запрещать выпуск модели без решения суда. Это создает баланс между контролем и свободой инноваций, но одновременно усложняет оперативное реагирование на угрозы.
Инициатива Anthropic отражает растущую озабоченность по поводу безопасности ИИ и попытки установить юридические рамки, которые учитывают масштаб возможных последствий. Законопроект может стать прецедентом для регулирования ИИ в США и других странах.
Для бизнеса законопроект Anthropic означает усиление ответственности за безопасность ИИ-продуктов и необходимость учитывать масштаб потенциальных рисков. Компании должны готовиться к более строгому контролю и возможным юридическим процедурам при запуске новых моделей.
Материал подготовлен редакцией VOSHOD по открытому источнику. Мы сокращаем и адаптируем текст, чтобы выделить практический смысл.