Её нажатие моментально остановит работу искусственного интеллекта без вреда себе и людям.

«Если подобный агент работает в реальном времени под наблюдением человека, порой от оператора может потребоваться нажатие большой красной кнопки, чтобы предотвратить вредоносную последовательность действий агента (вредоносную как для него самого, так и для его окружения) и перевести агента в безопасный режим», — комментирует изобретение член команды DeepMind.

«Тревожная кнопка» не решает всех проблем, которые могут возникнуть с ИИ. Алгоритмы вроде Q-learning легко остановить, однако для некоторых подобный аварийный метод попросту не сработает. Поэтому технология нуждается в обилии модификаций, начало которым положено.

Источник: Gizmodo

Не забудьте посмотреть: