Карты знаний: усиление коллективного естественного интеллекта - Константин Воронцов — Семинар AGI

• Обсуждение больших языковых моделей, их эволюции и применения в различных областях, таких как поисковые рекомендательные сервисы, системы видеоконференцсвязи, корпоративные базы знаний, ответы на вопросы, юридические, медицинские, психологические услуги, образование и воспитание детей.  

• Упоминается, что большие языковые модели могут быть опасными, если они врут или галлюцинируют, и важно обеспечить их безопасность и доверие.  

• Обсуждение аспектов доверия к искусственному интеллекту, включая компетентность, деловые качества, социальный капитал, структурированность и системность мышления, а также респонс (ответственность).  

• Упоминается, что люди доверяют друг другу, когда они говорят структурированно и лаконично, и это может быть применено к доверию к искусственному интеллекту.  

• Упоминаются четыре проблемы: несовершенство языковых моделей, неэффективность текста как способа представления знаний, неочевидность выбора лучшего способа представления знаний и визуальное аналитическое мышление.  

• Подчеркивается, что прежде чем создавать сильный искусственный интеллект, нужно разобраться с естественным интеллектом и доверием между людьми.  

• Несовершенство архитектуры моделей, отсутствие человеческих структур мышления, критериев важности и картин мира.  

• Несовершенство методик оценивания и необходимость увеличения качества моделей.  

• Переход от линейных текстов к более подходящему для восприятия человека текстографическому представлению знаний.  

• Создание глобальной системы знаний, структурированной и удобной для коллективной интеллектуальной деятельности.  

• Интеллект-карты нацелены на повышение эффективности понимания, запоминания и систематизации информации.  

• Использование интеллект-карт в управлении, образовательном процессе и бизнес-школах.  

• Возможность компьютерной обработки и извлечения структур и смыслов из текстографического представления знаний.  

• Принцип однородности: темы должны образовывать сюжет или отвечать на один общий вопрос.  

• Принцип полноты: подтемы должны охватывать все аспекты темы.  

• Принцип точности: подтемы не должны содержать лишней информации.  

• Принцип компактности: количество подтем должно быть в пределах 7+2.  

• Принцип значимости: подтемы должны быть ранжированы по важности.  

• Принцип эргономичности: слова должны подкрепляться изображениями.  

• Принцип лаконичности: формулировки должны быть короткими и ясными.  

• Принцип эстетичности: карты должны быть красивыми и живыми.  

• Принцип гармоничности: карта должна выглядеть целостно.  

• Принцип сбалансированности: ветви карты должны быть примерно равны.  

• Принцип читабельности: карта должна быть легко читаемой и однозначной.  

• Принцип сворачиваемости: карта может быть детализирована и свернута в любой момент.  

• Принцип отторгаемости: комментарии автора не обязательны для понимания карты.  

• Принцип коллективности: карта должна быть создана и обсуждена в группе.  

• Принцип машинной обработки: карты могут быть обработаны с помощью технологий.  

• Принцип возможности обучения моделей: карты могут быть использованы для обучения моделей.  

• Принцип глобальности: карта должна быть связана с единым смысловым ядром.  

• Принцип естественно-научного мировоззрения: карта должна включать базовые знания и методологию научного познания.  

• Принцип философии: карта должна включать систему ценностей и ответы на вопросы ради чего и зачем.  

• Обсуждение необходимости единой системы знаний для решения общих цивилизационных задач, таких как выживание, познание, созидание и развитие.  

• Цивилизационная идеология должна ставить и решать общие цивилизационные задачи, снижать и устранять риски, поддерживать единомыслие и ценности.  

• Цивилизационная идеология должна быть инструментом для введения открытого общественного диалога о целях и способах развития цивилизации.  

• Обсуждение дилемм, связанных с развитием искусственного интеллекта, антропомощных роботов и превращением людей в машины.  

• Цивилизационная идеология должна разрешать дилеммы технологического развития, такие как опасность и необходимость общего искусственного интеллекта.  

• Цивилизационная идеология может помочь преодолеть разобщенность и договориться о системах ценностей и целях развития.  

• Цивилизационная идеология должна быть инструментом для коллективного разума, где можно согласовать и представить на суд общественности идеи и мнения.  

• Определение ценностей: биосфера земли, знания человечества, человеческая жизнь, артефакты и результаты труда людей.  

• Антропоцентричность: добро и зло относительны, но добро - это все, что способствует достижению цели цивилизации, а зло - то, что препятствует этому.  

• Развитие экзистенциально опасных технологий, таких как искусственный интеллект, трансгуманизм, эскапизм.  

• Вероятность самоуничтожения цивилизации пропорциональна произведению трех со-множителей: объема всей вырабатываемой энергии, числа экзистенциально опасных технологий и числа людей, готовых на все ради власти и привилегий.  

• Основная альтернатива будущего: либо реализация одного из рисков самоуничтожения, либо изменение системы ценностей и образа мышления.  

• Цивилизационное мышление должно опираться на науку, быть естественно-научным, критическим, позитивным, созидательным и конструктивным.  

• Пирамида Маслова: индивидуальные базовые потребности, социальный уровень и цивилизационный уровень, где человек осознает себя частью человеческой цивилизации и стремится делать вклад в ее развитие.  

• Обсуждение важности создания единой системы знаний, доступной для машинного интеллекта и людей.  

• Упоминается, что система знаний должна быть основана на ценностях и смыслах, которые определяют цивилизацию.  

• Упоминается, что визуальное аналитическое мышление может быть более мощным, чем другие методы мышления.  

• Обсуждается, как научиться думать картами и как активировать визуальное аналитическое мышление.  

• Карты знаний могут быть удобной формой представления знаний для человека и машины.  

• Карты могут активировать визуальное аналитическое мышление и способствовать взаимопониманию между людьми.  

• Карты могут быть использованы для создания среды для коллективного разума и обучения доверенных больших языковых моделей.  

• Упоминается возможность создания человека машинной цивилизации, где участие машины полностью подчинено цивилизационным ценностям.  

• Обсуждаются конкретные шаги для создания такой системы и возможность использования карт знаний для обучения больших языковых моделей.  

• В видео обсуждается понятие цивилизации и его применение к общечеловеческой цивилизации и крупным образованиям, таким как империи.  

• Упоминается, что визуальное представление информации помогает договориться о понятиях и смыслах.  

• В видео говорится о том, что иерархическое представление информации более свойственно человеческому мышлению и памяти, в то время как сеть не накладывается на естественные структуры мышления.  

• Упоминается, что википедия неудобна для запоминания главного и обучения ориентации в информации.  

• В видео обсуждается соотношение карт знаний и онтологий, и то, что карты знаний могут быть более произвольными, чем онтологии.  

• Упоминается, что карты знаний могут быть более читаемыми и понятными, чем онтологии, и что они могут быть использованы для формирования системы знаний.  

• Обсуждение того, как мы идем к решению задачи представления знаний: от формальной картины или от живой коммуникации.  

• Важность практической деятельности и целей для представления знаний.  

• Возможность использования больших языковых моделей для создания глобальных карт знаний.  

• Обсуждение использования иерархических списков для представления знаний.  

• Важность обучения визуальному мышлению и использованию визуальных инструментов.  

• Успешное использование визуального программирования в анализе данных.  

• Примеры использования визуального программирования в автоматизированных системах управления технологических процессов.  

• Обсуждение возможности использования радиантности и иерархичности для представления системы знаний.  

• Важность хранения информации в другом представлении, а не только для коммуникации.  

• В междисциплинарных проектах и коллективной деятельности важно быстро понимать предметные области друг друга.  

• Для этого нужно средство, которое поможет быстро согласовать области знания и принимать решения.  

• Таким средством может быть карта знаний, которая позволяет быстро понимать ландшафт знаний и принимать решения.  

• Карта знаний может быть сложной и многоуровневой, особенно в процессе коллективной деятельности.  

• Иерархичность и сложность ландшафта знаний могут быть связаны с необходимостью принимать решения и согласовывать цели.  

• Карты знаний могут быть применены в различных областях, где нужна коммуникация и совместная деятельность.  

• Вопрос о том, как создать глобальный массив карт знаний, может быть решен с помощью больших языковых моделей и минимальной человеческой разметки.  

• Нейроны не могут контролировать результат, так как реальность неизвестна.  

• Создание глобального массива карт невозможно из-за сложности естественного языка и отсутствия формального перевода текстов.  

• Создание инструмента для коллективной разработки карт знаний, с механизмами консенсуса, согласования и голосования.  

• Использование инструмента для образовательных целей и постепенное подключение генерировки знаний.  

• Двумерная ориентация информации может быть сложной для восприятия.  

• Использование иерархического списка вместо двумерной карты для удобства восприятия.  

• В докладе обсуждается возможность использования больших языковых моделей для генерации текста, который будет читабельным и связанным.  

• Модель может быть обучена на структурированных данных, таких как иерархические списки, и затем использована для генерации текста на основе этих данных.  

• В докладе также обсуждаются возможности машинного обучения, такие как генерация карт знаний из структурированных данных и обучение больших языковых моделей на основе этих карт.  

• Такие стартапы уже существуют и позволяют машинам обрабатывать большие объемы данных и создавать структурированные тексты.