Глава OpenAI Сэм Альтман предупредил о возрастающей угрозе мошенничества, связанной с развитием технологий искусственного интеллекта. СМИ цитируют его слова о том, что вскоре можно будет с высокой точностью воспроизводить как голос, так и внешность другого человека.
Особую обеспокоенность вызывает банковская отрасль, где до сих пор используются уязвимые методы идентификации. Альтман призвал отказаться от голосовой аутентификации, отметив её ненадёжность в условиях активного внедрения ИИ-инструментов.
В беседе с заместителем председателя Федеральной резервной системы Мишель Боуман в Вашингтоне Альтман призвал банки срочно модернизировать методы идентификации клиентов. Он выразил обеспокоенность тем, что некоторые учреждения до сих пор используют распознавание голоса как способ подтверждения личности, несмотря на то, что ИИ-системы уже способны их точно воспроизводить. «Вы просто произносите контрольную фразу — и деньги переводят», — отметил он.
По словам главы OpenAI Сэма Альтмана, искусственный интеллект уже превзошёл большинство стандартных способов аутентификации, кроме паролей. Особенно уязвимыми остаются голосовые звонки, однако в скором времени аналогичные фальсификации будут возможны и при видеосвязи. Альтман отметил, что во время FaceTime-разговора будет крайне сложно отличить подделку от реального собеседника.
Опасения не голословны — уже фиксируются случаи, когда злоумышленники имитируют голоса родственников, чтобы получить выкуп или убедить сотрудников компаний осуществить крупные переводы. Быстрое развитие генеративных моделей делает такие атаки всё более масштабными и реалистичными.
Ранее ФБР также заявляло о росте преступной активности с применением ИИ — от фишинга и социальной инженерии до создания фальшивого мультимедийного контента. Один из недавних инцидентов — попытка мошенника выдать себя за сенатора Марко Рубио с помощью нейросети, чтобы получить доступ к закрытым каналам связи.
Альтман подчеркнул, что OpenAI не занимается разработкой технологий маскировки личности и не несёт за них прямой ответственности. В то же время он поддерживает проект The Orb — биометрическую систему, сканирующую радужную оболочку глаза для подтверждения личности. Эта разработка вызвала дискуссии из-за риска вмешательства в конфиденциальные данные. Кроме того, критику вызывает видеогенератор Sora, который, по мнению ряда экспертов, может использоваться в мошеннических целях.
Завершая, Альтман добавил: «То, что мы не создаём технологию подмены личности, не означает, что этого не сделает кто-то другой. Это несложно. И это произойдёт очень скоро».