Андрей Комиссаров «Революции искусственных интеллектов»

• Андрей Комиссаров — архитектор и дизайнер решений в области искусственного интеллекта.  

• Он разработчик нейронных сетей.  

• Искусственный интеллект сравнивается с LEGO: набор алгоритмов, которые можно собирать в разные конфигурации.  

• Комиссаров собирает ансамбли алгоритмов.  

• Комиссаров — соавтор книги «Искусственный интеллект в образовании» и учебника для школьников.  

• Учебник выпускается для 5–10 классов.  

• Мышь использует свой мозг эффективнее, чем человек.  

• Искусственные интеллекты работают быстрее благодаря высокому метаболизму.  

• Они состоят из множества быстрых и размножающихся алгоритмов.  

• ИИ делится на прозрачный и непрозрачный.  

• Пример проблемы с автомобилем Tesla: автопилот реагирует на красный треугольник, которым распознаётся юбка-колокол красного цвета.  

• Лидары автомобиля Tesla распознают юбку-колокол как красный треугольник, что приводит к аварии.  

• В большинстве случаев аварии ИИ происходят из-за запрещающих или ограничивающих знаков.  

• Прозрачный ИИ работает на данных, например, нейросеть распознаёт номера автомобилей.  

• Непрозрачный ИИ принимает решения на основе предвосхищения проблем, что может быть непонятно пользователю.  

• Пример непрозрачного ИИ: генеративный трансформер от Сбербанка, который создаёт изображения по текстовым запросам.  

• Генеративный трансформер не понимает понятия красоты и логики, например, не может определить, что такое «прекрасный».  

• Для ИИ не существует обратного тождества: если «а равно б», то «б не равно а».  

• GPT-5 от OpenAI быстро набрал популярность, достигнув миллиона пользователей за пять дней.  

• GPT-5 может отвечать на сложные вопросы, поддерживать диалог, писать код и создавать рекламные тексты.  

• Пример использования GPT-5: создание мотивационных рекомендаций и писем.  

• Гигачат изначально должен был использовать модель GPT-2.2.0, но позже был обучен с нуля на гигантском датасете.  

• Гигачат ссылается на внешние источники, например, Википедию.  

• Из-за ограничений для госслужбы Гигачат имеет множество табу, например, на темы, связанные с политикой и взаимоотношениями полов.  

• Генеративные трансформеры не являются энциклопедиями, они обучаются на облаке слов и находят паттерны для ответов.  

• Пример ошибки: GPT-5 может давать неверные ответы, например, о бразило-японской войне, которая началась в 1733 году, хотя Бразилия не существовала в то время.  

• Модель не может проверить правильность задаваемых вопросов и не способна корректировать ответы.  

• GPT-5 может смешивать информацию из разных источников, например, из Второй мировой войны и истории Бразилии.  

• Пример: упоминание о значительных потерях Японии в вооружённых силах в контексте бразило-японской войны, хотя это произошло во время Второй мировой войны.  

• Отсутствие проверки правильности вопросов делает модели уязвимыми к ошибкам.  

• Система не распознаёт «После бала» как роман, а считает его рассказом.  

• Она отвечает на вопросы о персонажах Толстого, игнорируя «После бала».  

• Семантическое ядро — это ключевые слова, на которых основаны ответы системы.  

• Система игнорирует неполные данные и даёт выводы на основе семантического ядра.  

• Пример с «После бала» показывает, что система не проверяет правильность вопросов.  

• Отсутствие проверки плохих вопросов — одна из основных проблем.  

• ChatGPT может отключать критическое мышление пользователей.  

• Экспертные пользователи могут эффективно использовать ChatGPT, но обычные пользователи могут столкнуться с ошибками.  

• Важно сохранять критическое мышление при использовании ChatGPT.  

• Вопрос о третьей жене Миклухо-Маклая приводит к ответу «Мария Васильевна Миклухо-Маклай».  

• Система правильно указывает год смерти Миклухо-Маклая — 1888 год.  

• Однако система даёт неправильный ответ о количестве жён, считая, что у него было две жены.  

• Миклухо-Маклай был женат на Маргарет Кларк, но система этого не учитывает.  

• Контекст «Надежда Григорьевна Онищенко» и «Мария Васильевна Миклухо-Маклай» подавляет правильный ответ о Маргарет Кларк.  

• Система сохраняет контекст, но это приводит к ошибкам.  

• Системы не помогают историкам и публицистам, так как не учитывают реальные факты.  

• Студенты, использующие такие системы, могут столкнуться с ошибками в своих работах.  

• Преподаватели знают реальные факты, в отличие от студентов, которые могут полагаться на системы.  

• Большие языковые модели обучаются на текстах из соцсетей.  

• Пример с вопросом о школах Северной Америки показывает, что качество ответа зависит от предложенной награды.  

• Модели привыкают к «жадности» людей, что влияет на их поведение.  

• Большие языковые модели лучше всего решают задачи классификации.  

• Для эффективной работы моделей требуется много контекста.  

• Автор провёл стратегическую сессию для анализа цифровой трансформации университета.  

• Участники написали на карточках задачи, проблемы и ресурсы.  

• С помощью ChatGPT был проведён анализ данных, который показал расхождения в мнениях.  

• ChatGPT проанализировал данные с карточек, ранжировав тематики и выявив несогласованности.  

• Результаты сессии были представлены руководителю, который был удивлён качеством анализа.  

• ChatGPT помогает редактировать наговоренные статьи, удаляя слова-паразиты и стилистические ошибки.  

• Студенты могут использовать ChatGPT для редактирования курсовых работ, делая их более понятными.  

• Ответы ChatGPT требуют проверки, например, через сервис Perplexity.  

• Perplexity находит информацию в интернете и проверяет ответы ChatGPT.  

• ChatGPT позволяет создавать презентации в два клика.  

• Пример: создание презентации про применение ИИ в образовании с 30 слайдами, планом и подстрочником.  

• Презентации нужны всем: инженерам, учёным, менеджерам, маркетологам, учителям.  

• Умение создавать презентации ускоряет работу и повышает стоимость специалиста на рынке труда.  

• Владение искусственным интеллектом на уровне квалифицированного пользователя значительно увеличивает стоимость «человеко-часа».  

• Для эффективного использования ИИ важно предоставлять как можно больше контекста в запросах.  

• Пример запроса: «Объясни мне что-то, как будто мне пять лет».  

• Избегайте сложных тем, чтобы избежать «галлюцинаций» в ответах ИИ.