На форуме «Цифровые решения» обсудили идентификацию ИИ-агентов
По мере того как ИИ-агенты все глубже проникают в повседневность, на первый план выходит вопрос доверия к ним: пользователь должен понимать, кто именно является агентом, от чьего имени он выступает и какую несет ответственность. Эту мысль озвучил генеральный директор «Билайна» Сергей Анохин на главной пленарной сессии «Результаты. Возможности. Перспективы» форума «Цифровые решения».
Актуальность темы подогревается ростом дипфейков, когда становится все труднее отличить ИИ от живого собеседника и распознать синтетический контент. В качестве одного из решений Анохин предложил ввести «паспорт ИИ-агента», который позволил бы идентифицировать агента, подтверждать происхождение созданного им материала и закреплять зону ответственности. «Телеком-индустрия имеет огромный опыт технологий идентификации и авторизации пользователей, и его точно можно применить для решения этой задачи», — уверен представитель «Билайна».
О рисках, связанных с ИИ, на сессии упомянул и председатель правительства России Михаил Мишустин. По его словам, мошенники используют искусственный интеллект, чтобы подделывать голос, внешность и поведение людей, поэтому граждане должны четко осознавать, когда перед ними искусственно созданный контент, которому нельзя доверять. Мишустин подчеркнул, что сегодня ИИ-агенты способны самостоятельно вызывать сервисы, менять записи, инициировать транзакции и проводить кибератаки, а противодействие таким преступлениям потребует скоординированных усилий всей отрасли информационных технологий и кибербезопасности.
Развитие технологий искусственного интеллекта уже сейчас заметно перекраивает структуру трафика в мобильных сетях. Так, аналитики «Билайна», изучив данные Ericsson по 55 мобильным операторам за прошедший год, обнаружили характерную закономерность: у большинства из них исходящий трафик прибавлял быстрее входящего, а почти у трети рост объема отправляемых данных более чем в полтора раза обогнал рост скачивания. Это означает, что пользователи все активнее выгружают фото и видео для анализа, отправляют запросы и файлы, взаимодействуют с голосовыми помощниками. Предположительно, к 2031 году объем исходящих данных может увеличиться втрое по сравнению с 2025-м, если ИИ-приложения будут распространяться в умеренном темпе, и впятеро — при их активном внедрении.
