[w06d0116] Управляемая LLM генерация контрфактуальных данных для более справедливого искусственного интеллекта

• В видео представлена работа по созданию контрфактуальных данных с использованием LLM для публикации на сайте ACM Proceedings 2024.  

• Этот подход направлен на устранение искажений в системе искусственного интеллекта путем создания расширенной выборки контрфактуальных данных.  

• Несмотря на то, что этот метод является надежным способом устранения предвзятости, он также может быть использован для усиления или ослабления обучения модели в определенном направлении.  

• В работе используется возможность базовой модели в сочетании с современными платформами для обеспечения объяснимости и справедливости.  

• Это позволяет генерировать контрфактуальные примеры, которые используются для дополнения существующего набора данных и улучшения обучения модели.  

• В статье представлен новый подход к устранению предвзятости в модели анализа изображений лиц.  

• Для достижения этой цели используется LLM и модель предварительной обработки текста для создания изображений.  

• В результате работы была оценена эффективность по различным базовым матрицам, включая точность классификации, баланс, разрозненное влияние, разницу в статистическом паритете, разницу в равных возможностях, среднее значение или разницу, общую точность.  

• Эксперименты проводились на двух целевых атрибутах прогнозирования - мужской и молодой.  

• Для оценки существующей предвзятости использовалась модель ResNet и Mobile по двум защищенным атрибутам - седые волосы и цвет кожи.  

• Результаты показали, что точно настроенная модель, использующая сгенерированные контрфактуальные данные, эффективно устраняет существующую погрешность во всех матрицах без существенного ущерба для общей точности.