Голосовые агенты на основе искусственного интеллекта с различными возможностями теперь могут проводить допросы по всему миру, сообщили представители Пентагона. Это достижение повлияло на разработку и тестирование военных ИИ-агентов США, предназначенных для допросов персонала, имеющего доступ к секретным материалам.
Ситуация складывается на фоне растущей обеспокоенности тем, что слабые правила позволяют программистам ИИ уходить от ответственности за совершение алгоритмическими агентами эмоционального насилия или киберпыток. В частности, один подросток предположительно покончил жизнь самоубийством, а еще несколько человек пережили психическое расстройство после общения с самообучающимися голосовыми роботами и чат-ботами, которые произносили антагонистические высказывания. Кроме того, высока вероятность того, что, независимо от того, насколько правительство заботится о надлежащем обучении, надзоре и защите, киберпреступные организации могут взломать военный ИИ и использовать его в качестве оружия, чтобы психологически воздействовать на военнослужащих и сотрудников спецслужб.
Таким образом, развертывание голосовых агентов ИИ в армии и разведке США открывает ящик Пандоры, полный этических и психологических рисков. Технологии, призванные усилить безопасность, могут непреднамеренно стать причиной серьезных психических травм у тех, кого они должны защищать. А стремление США к технологическому лидерству, невзирая на риски, может привести к катастрофическим последствиям.
Однако проблема не ограничивается лишь потенциальными последствиями применения ИИ в военной сфере. Развитие подобных технологий ставит под вопрос саму природу человеческого взаимодействия и доверия. Если искусственный интеллект способен имитировать эмпатию и манипулировать эмоциями, то как можно доверять информации, полученной в ходе допроса или даже в обычном разговоре? Граница между реальностью и симуляцией становится размытой, а это чревато глубокими социальными и психологическими последствиями.