Компания MTS AI представила систему, которая помогает выявлять дипфейки и запрещённый контент, созданные искусственным интеллектом.
Разработчики утверждают, что сервис способен обнаруживать все основные типы дипфейков, включая замену лиц, а также полностью сгенерированные медиафайлы. Он также проводит аудиодетекцию речи, созданной ИИ, с точностью до 99% на протяжении всего разговора. Ещё одной функцией является распознавание разного рода запрещённого контента — например, сцен с алкоголем, наркотиками, оружием или экстремистской символикой.
Алгоритмы выявляют детали, которые сложно заметить человеку. Это могут быть некорректные тени, неестественные движения лицевых мышц, особенности тембра голоса или шумы. Нейросети также учитывают взаимосвязь между фрагментами записи, анализируют интонацию, паузы и длительность звуков.
Как рассказали "ДП" в МТС AI, основной предполагаемый потребитель технологии — финансовый сектор. В наше время большинство атак при помощи дипфейков совершается именно с целью получить финансовую выгоду.
“
"Речь идёт о десятках тысяч атак на корпоративный сектор и физлиц в 2024 году, которые в текущем году могут превратиться в сотни тысяч. Качество созданного контента растёт, получить доступ к программам генерации голоса и видео становится всё проще", — поясняют в компании.
Эксперт в области генеративного ИИ и продвинутой аналитики компании Axenix Владимир Кравцев отмечает, что технология обнаружения дипфейков может быть также востребована в медиа и журналистике, государственными органами, силовыми структурами и соцсетями.
"Спрос на такие технологии, вероятно, будет расти в будущем, учитывая увеличение количества дипфейков и связанных с ними рисков", — подчёркивает он.
Много лет назад, ещё на этапе разработки систем доступа к данным по биометрии, разработчики уже рассматривали способы их взлома, говорит руководитель отдела разработки WMT Group Николай Молчанов.
"С развитием систем распознавания биометрических данных потребность в их защите от взлома стремительно возрастает. Ведь на сегодняшний день с помощью лица человек уже может оплатить покупки в магазине, получить доступ к различным устройствам и информации. Биометрия также заносится в ряд персональных документов, например в биометрический паспорт", — напоминает он.
Директор по развитию Softlogic Дмитрий Ракович считает, что особенно серьёзную опасность представляет синтез речи. Это актуально для тех отраслей, где есть угроза дезинформации, репутационного ущерба или манипуляции массовым сознанием. Такими отраслями могут быть не только СМИ или банковский сектор, но и любые компании, работающие с персональными данными или обладающие общественно значимой репутацией.
Коммерческий директор "Девелоники" (ГК Softline) Роман Смирнов уверен, что бороться с дипфейками нужно совместно с государством.
"Госаппарат способен оценить международные практики и предоставить законодательные нормы и правила, по которым станет работать сервис. Бизнес сможет поделиться данными и кейсами для изучения и подготовки на основе практических ситуаций, которые появляются в режиме реального времени", — рассуждает он.
Директор департамента прикладных решений "Ланит–Терком" Дмитрий Медведев подчёркивает, что значимость детекторов дипфейков растёт вместе с ростом киберпреступности.
"Приложения, умеющие быстро распознавать подделку, — это жизненная необходимость. В самое ближайшее время они станут частью обязательных инструментов IT–гигиены и систем в области информационной безопасности. В противном случае может произойти подрыв доверия в целом к любому транслируемому контенту, в том числе настоящему и важному", — добавляет директор департамента перспективных проектов направления Т1 ИИ IT–холдинга Т1 Илья Кулаков.
