Диалог с ИИ: как убедить нейросеть говорить только правду? / Форум «Диалог о фейках 2.0»

• Начало мероприятия с небольшим сдвигом по времени.  

• Призыв к участникам пересаживаться вперед для удобства.  

• Представление модератора Алексея Парфуна и спикера Кирилла Сидорова.  

• ТАСС существует 120 лет и борется с фейками.  

• Имеет представительства в 57 странах и 800 рубриках для классификации новостей.  

• Использует искусственный интеллект для верификации новостей и мониторинга источников.  

• Применение технологий на основе правил и машинного обучения.  

• Выпуск около тысячи новостных лент в сутки и мониторинг 2000 телеграм-каналов и сайтов.  

• Верификация новостей и создание уникального архива фотографий.  

• Верификация новостных сообщений с 1983 года и создание фотобанка с 60 миллионами фотографий.  

• Разработка нейросети для проверки фактов и верификации новостей.  

• Использование верифицированных данных для обучения нейросети.  

• ТАСС видит свою миссию в проверке достоверности информации.  

• Создание инструмента для проверки любой информации.  

• Внутренние системы подтверждают факты.  

• Планируется создание инструмента для анализа новостей.  

• Важно подтвердить, что новость неправдивая, а не просто опровергнуть её.  

• Прослеживание цепочек новостей и их распространения.  

• Сбор и анализ исторических данных.  

• Возможность использования данных для учителей и студентов.  

• Нейросети имеют цензуру и могут генерировать недостоверную информацию.  

• Вероятность достоверности информации составляет 85%.  

• Достижение 100% достоверности требует значительных усилий и затрат.  

• Валерия Куркина, руководитель по работе с госсектором Билайн.  

• Обсуждение применения искусственного интеллекта в государственных задачах.  

• Улучшение атмосферы в поликлиниках и сокращение очередей.  

• Применение ИИ в ЖКХ для выявления загрязнений и мониторинга.  

• Использование ИИ в транспорте для борьбы с нарушениями ПДД.  

• ИИ помогает врачам принимать быстрые и эффективные решения.  

• Выявление патологий и дистанционная диагностика.  

• Повышение качества обслуживания и контроль за информированием населения.  

• Сокращение очередей в поликлиниках с помощью видеоаналитики.  

• Система "Единый кардиолог" для быстрой диагностики ЭКГ.  

• Решение "Аудио-БЧ" для улучшения психологической атмосферы и снижения конфликтов.  

• ИИ как инструмент, управляемый человеком.  

• ИИ не принимает решения, а подсвечивает патологии.  

• Совместные проекты с Сеченовским университетом для улучшения диагностики в регионах.  

• Искусственный интеллект ИИ используется не только для критики, но и для похвалы.  

• Сергей Влеготский, директор департамента противодействия мошенничеству Сбербанка, рассказывает о важности темы.  

• Сбербанк отвечает за противодействие мошенничеству и защиту клиентов.  

• Объем ущерба от мошенничества составляет 250 миллиардов рублей в год.  

• Угрозы исходят от телефонных злоумышленников, работающих с территории соседнего государства.  

• Угрозы мошенничества начали активно развиваться с 2019 года.  

• Мошенники используют различные методы, включая звонки от имени сотрудников банка и правоохранительных органов.  

• Угрозы трансформируются от перевода денег до актов терроризма и вандализма.  

• Мошенники работают на опережение и используют современные технологии, такие как дипфейки и мессенджеры.  

• Сим-боксы и облачные сервисы позволяют массово совершать звонки из-за границы.  

• Мессенджеры используются для манипуляции и подделки документов.  

• Около двух миллионов человек вовлечены в бизнес дроперов, большинство из них моложе 24 лет.  

• Самый молодой дропер - 14-летний парень.  

• Дипфейки становятся все более доступными и дешевыми.  

• Злоумышленники используют поддельные паспорта и голосовые записи для обмана.  

• Сбербанк разработал технологию выявления дипфейков.  

• Сбербанк использует модель антифрод для защиты клиентов.  

• Платформа проверяет около 500 миллионов транзакций в сутки.  

• Решения принимаются на основе искусственного интеллекта.  

• Сбербанк выпустил книгу с опытом борьбы с мошенничеством.  

• Рекомендуется использовать сервисы Сбербанк Онлайн для защиты.  

• Проект КиберАрии помогает изучать актуальные схемы мошенничества.  

• Сбербанк планирует внедрять свои технологии в государственные органы и бизнес.  

• Проблема мошенничества будет нарастать, и важно продолжать работу в этом направлении.  

• Обсуждение термина "дипфейк" и его отличия от обычного фейка.  

• Дипфейк создается с помощью глубоких нейронных сетей.  

• Дипфейки часто используются для создания лиц и голосов.  

• Мошенники используют новые технологии для обмана.  

• Компании, такие как Сбер, разрабатывают системы для обнаружения мошеннических операций.  

• Регулирование технологий не всегда эффективно, так как мошенники находят обходные пути.  

• Необходимость создания ответных технологий для обнаружения дипфейков.  

• Обучение людей распознавать поддельный контент.  

• Маркировка контента для подтверждения его подлинности.  

• Технологии генерации контента уже окружают нас.  

• Важно следить за новыми мошенническими схемами и искать альтернативные решения.  

• Бороться нужно с фейками, а не с технологиями.  

• Доступность дипфейков вызывает страх и шок у общества.  

• Продвинутые школьники могут создавать дипфейки, но это не делает технологию доступной для всех.  

• Необходимо обучать школьников и пожилых людей распознавать фейки.  

• Пожилые люди нуждаются в обучении распознаванию фейков.  

• Важно использовать каналы информации, которые они потребляют.  

• Навык критического мышления важен для защиты от фейков.  

• Представление Татьяны Декиной, директора по развитию антифрод-продуктов.  

• Обсуждение различных типов дипфейков, их детектирования и борьбы с ними.  

• Обещание рассказать интересные и забавные истории о внедрении дипфейков в продукты.  

• VisionLabs - компания, специализирующаяся на технологиях распознавания лиц.  

• Компания также занимается дипфейками, медициной и аналитикой.  

• VisionLabs использует нейронные сети для создания дипфейков.  

• Нейронные сети генерируют дипфейки на основе существующих данных или текстовых промтов.  

• Существуют три основных подхода: фейс-лоб, фейс-ренекман и фейс-синтезис.  

• Эти методы используются для создания видео и голосовых дипфейков.  

• Атаки на личность, общественное мнение и бизнес-процессы.  

• Атаки на бизнес-процессы часто связаны с атаками на системы распознавания лиц.  

• Лайф на атаки были популярны 7 лет назад, сейчас дипфейки стали более доступными.  

• Microsoft и другие компании создают фонды для борьбы с дипфейками.  

• VisionLabs разрабатывает детекторы дипфейков.  

• Важно соблюдать базовые меры информационной безопасности.  

• Важно анализировать процессы перед внедрением технологий.  

• Детекторы дипфейков должны отличать реалистичные фейки от менее качественных.  

• Пример успешного кейса в банке СНГ, где дипфейки были обнаружены и предотвращены.  

• Вопрос о внедрении технологий идентификации дипфейков на мобильные устройства.  

• VisionLabs может работать по одному кадру для точного определения дипфейка.  

• Необходимость широкого освещения проблематики дипфейков среди населения.  

• Представление Первого канала и программы "Антифейк".  

• Ведущий - Раиса Шамаева, руководитель программы.  

• Программа была запущена в 2022 году в авральном режиме из-за большого количества фейков.  

• Объяснение фейков доступным языком.  

• Включение реальных людей, ставших жертвами фейков.  

• Рубрика "Народный антифейк" для проверки информации, присланной зрителями.  

• Пример фейка о "солдате ребенка не обидит" в Свердловской области.  

• Разоблачение фейка через липсинг и проверку видео.  

• Вторая волна фейка в октябре 2024 года.  

• Обсуждение несоответствия голоса и мимики в фейке.  

• Ухудшение качества изображения как способ скрыть фейк.  

• Использование дипфейка для создания естественного голоса.  

• Важность критического мышления и проверки информации.  

• Ответственность СМИ за распространение проверенной информации.  

• Призыв к зрителям доверять проверенным источникам.  

• Задача не только проверять факты, но и учить людей самостоятельно.  

• Важно подключать эмоциональную сферу для обучения.  

• Пример с мамой, чей сын был использован в фейке.  

• Пример с дипфейком о работнике порохового завода.  

• Программа вышла в эфир, и фейк был разоблачен.  

• Жертва дипфейка подтвердила, что это был фейк.  

• Призыв к технологическим компаниям и корпорациям рассказывать о дипфейках.  

• Идея объяснять дипфейки в отделениях банков.  

• Важность оперативного раскрытия новых схем мошенников.  

• Рубрика "Мама без паники" для разбора массовых рассылок.  

• Призыв работать вместе для предотвращения мошенничества.  

• Важность совместной работы для охвата аудитории.  

• Пример использования дипфейков для привлечения внимания к малярии.  

• Рекламная кампания с использованием дипфейков.  

• Технология подделки видео по одной фотографии.  

• Использование дипфейков в военных целях для принятия решений и обработки данных.  

• Примеры применения в моделировании боевых действий и информационной безопасности.  

• Важность использования дронов для мониторинга и координации.  

• Использование для лечения заболеваний и разработки лекарств.  

• Моделирование ситуаций в искусственных условиях для исследований.  

• Решение проблемы нехватки данных и конфиденциальности.  

• Искусственный интеллект генерирует данные для защиты персональных данных.  

• Возможность мониторинга эмоциональных состояний пациентов.  

• Использование ИИ для анализа снимков МРТ.  

• Выявление сложных случаев, таких как склероз и эпилепсия.  

• Восстановление утраченной речи у пациента с боковым амиатрофическим склерозом.  

• Генерация клона голоса на основе нескольких часов голосовых эпизодов.  

• Сравнение с фотошопом и важность использования ИИ.  

• Призыв не отвергать ИИ полностью, а видеть его положительные стороны.  

• Возможность задать вопросы спикерам.  

• Завершение мероприятия и благодарность за участие.