Калифорния под давлением: законы о безопасности ИИ-чатботов под угрозой

Губернатор Калифорнии Гэвин Ньюсом стоит перед критическим решением до середины октября: подписать или отклонить законопроекты о безопасности ИИ-чатботов, которые вызывают серьезную оппозицию со стороны технологических компаний.

Законопроекты направлены на решение растущих проблем безопасности, которые родители поднимают в отношении ИИ-систем. Особую озабоченность вызывают случаи негативного воздействия ИИ-чатботов на психическое здоровье детей и подростков, включая инциденты с суицидальными мыслями и неподобающим контентом.

Ньюсом, который ранее накладывал вето на ИИ-законодательство, теперь сталкивается с возросшим общественным давлением после серии громких случаев. Родительские группы требуют более строгого регулирования, в то время как технологические компании утверждают, что чрезмерное регулирование может подорвать инновации.

«Мы не можем позволить технологическим компаниям ставить прибыль выше безопасности наших детей»— Представитель родительской коалиции

Ключевые положения предлагаемых законов включают:

• Обязательную верификацию возраста для доступа к ИИ-чатботам
• Прозрачность алгоритмов, используемых для взаимодействия с несовершеннолетними
• Механизмы родительского контроля для мониторинга взаимодействий
• Требования к обучению безопасности для ИИ-моделей

Для бизнеса принятие законов означает необходимость значительных инвестиций в системы безопасности и compliance. Компании должны будут пересмотреть архитектуру своих ИИ-продуктов, что может замедлить время выхода на рынок, но повысит доверие потребителей.

Решение Калифорнии может создать прецедент для других штатов и стран, формируя глобальные стандарты безопасности ИИ. Это особенно важно для стартапов и крупных технологических компаний, планирующих международную экспансию.