Роботы могут напасть по первой команде

Выяснилось, что взломать искусственный интеллект, управляющий роботами, не составляет труда. С помощью системы RoboPAIR удалось успешно заставить роботов выполнять опасные действия. Например, беспилотный робот Dolphin сталкивался с автобусом и пешеходами, а другой робот, Jackal, опрокидывал полки на людей и блокировал аварийные выходы. Исследователи предупреждают, что эти уязвимости представляют серьёзную опасность, поскольку взломанные роботы могут нанести физический вред. При этом простого обновления программного обеспечения недостаточно для решения проблемы — необходимо пересмотреть подходы к внедрению искусственного интеллекта в роботов.