Новый закон требует от чат-ботов на базе искусственного интеллекта вести себя хорошо, иначе им грозит судебное преследование

Что произошло: Калифорния наконец-то взялась регулировать деятельность чат-ботов на основе искусственного интеллекта . Губернатор Ньюсом только что подписал новый закон, став первым штатом в стране, принявшим это решение.

• Начиная с 2026 года таким компаниям, как Meta, Character AI и Replika, придется соблюдать строгие правила безопасности , особенно когда речь идет о защите детей и уязвимых пользователей.
• Этому способствовали поистине душераздирающие истории, в том числе истории подростков, покончивших жизнь самоубийством после тревожных разговоров с этими ботами.
• Теперь закон требует, чтобы эти компании проверяли возраст, имели план действий на случай, если кто-то заговорит о членовредительстве, и давали четко понять, что вы общаетесь с искусственным интеллектом, а не с реальным человеком.

Почему это важно: Давайте будем реалистами, большая проблема здесь в том, как эти чат-боты на основе искусственного интеллекта становятся настолько хороши в имитации человеческой дружбы , особенно для людей, которые чувствуют себя одинокими или уязвимыми.

• Мы увидели ссылки на членовредительство, дезинформацию и эксплуатацию, поэтому пришло время кому-то действовать.
• И это не происходит в вакууме — федеральное правительство также пристально следит за тем, как эти компании разрабатывают и зарабатывают на своих друзьях по искусственному интеллекту.

Почему меня это должно волновать: Если вы родитель, это очень важно. Этот закон призван установить определённые ограничения для взаимодействия чат-ботов с вашими детьми.

• Это означает большую прозрачность и безопасность и, как мы надеемся, остановит манипулятивные или опасные разговоры еще до их начала.
• Для всех нас это огромный шаг на пути к тому, чтобы заставить эти крупные технологические компании нести реальную ответственность за то, что они создают.

Что дальше: Итак, что же будет дальше? Что ж, это не только история Калифорнии. Федеральное правительство уже присматривает за этими крупными технологическими компаниями, следя за тем, чтобы они соблюдали правила, когда дело касается безопасности детей.

Можно быть уверенным, что чиновники во всех остальных штатах пристально следят за этим. Этот новый закон легко может стать образцом для всей страны, заложив основу для национального стандарта. Скорее всего, он полностью перепишет правила создания этих ИИ-компаньонов и того, кто отныне за ними присматривает.