Новый домашний ИИ от Google продолжает видеть вещи… в буквальном смысле

Что случилось? В начале этого месяца Google наконец-то начала внедрять Gemini for Home , впервые анонсированную в начале этого года . Этот продвинутый ИИ-помощник внедряется в экосистему умного дома, обеспечивая более глубокую интеграцию с камерами Nest Cam и другими устройствами. Однако первые отзывы пользователей показывают, что система всё ещё испытывает трудности с восприятием реального мира, иногда это скорее забавно, чем практично.

• Один из владельцев Nest Cam, Райан Уитвам из Ars Technica , получил предупреждение о том, что в их гостиную забрался олень , но это оказалась всего лишь их собака.
• В другом случае Gemini пометила «поддельных людей» во время прямой трансляции , хотя в кадре никого не было.
• Помимо ошибочных идентификаций , пользователи также сообщали о нарушении работы программ, неподдерживаемых голосовых командах и сбоях в управлении устройством после перехода на Gemini.

Почему это важно: Системы умного дома основаны на точном распознавании и надёжной автоматизации. Когда камера случайно предупреждает о диких животных в помещении или воображает несуществующих гостей, это подрывает доверие пользователей, особенно если эти инструменты позиционируются как средства безопасности. Gemini for Home подчёркивает как перспективы умных домов на базе искусственного интеллекта, так и подводные камни, которые могут возникнуть, когда этот интеллект выходит из строя.

• Ложные срабатывания могут вызвать ненужную тревогу или, что еще хуже, заставить людей игнорировать законные оповещения.
• Ошибочная идентификация или ложные обнаружения могут снизить достоверность действительно важных оповещений (например, о вторжениях).
• Поскольку Gemini становится центральной частью стратегии Google в области «умного дома», подобные промахи могут замедлить ее внедрение и подорвать доверие.

Почему меня это должно волновать? Если вы уже используете продукты Google для умного дома или планируете это сделать, эти первые проблемы показывают, что системам обнаружения на базе искусственного интеллекта ещё предстоит долгий путь развития. Идея заключается в том, что Gemini сделает ваш дом безопаснее и умнее, но непоследовательные оповещения могут привести к тому, что вам придётся проверять каждое уведомление вручную. А если ошибки станут обычным делом, вы можете начать игнорировать действительно важные предупреждения. Короче говоря, Gemini стремится быть проактивным сторожем, но сейчас он всё ещё нуждается в контроле.

Итак, что дальше? Google необходимо будет улучшить Gemini for Home, обновив модель обнаружения, улучшив прошивку Nest и более чётко обозначив ограничения производительности. Следите за обновлениями в системе оповещений, новыми настройками конфиденциальности и фильтрации, а также более продуманными способами управления уведомлениями. А пока воспринимайте оповещения Gemini как полезные рекомендации, а не как истину в последней инстанции, и всегда перепроверяйте показания камер.