бCильный ИИ:
М
ир стремительно меняется — технологии
уже не только предоставляют
огромные возможности, но и угрожают
отдельным компаниям, отраслям
и оцифрованному человечеству в целом.
На фоне нынешнего хайпа вокруг ChatpGPT,
Generative AI и сильного ИИ (AGI) возникла
уже идея суперинтеллекта (Artificial Super
Intelligence, ASI), равного и даже превосходящего
человеческий. Впрочем, несмотря
на изобилие различных классификаций ИИ,
как уже существующих, так и планируемых
в будущем, общего понимания, что же такое
AGI, нет, как до сих пор нет понимания,
как работает мозг человека.
Нейрофизиологи построили детальную
картину того, за что отвечают конкретные
области человеческого мозга, но это не позволяет
понять, как человек мыслит. Отличную
аналогию приводит Борис Славин — представим,
что мы находимся в ЦОД предприятия
и можем перерезать любой кабель, а в зависимости
от того, в каком подразделении
возникнут проблемы с сетью, определить
серверы, обслуживающие то или иное подразделение
(бухгалтерию, коммерческий или
производственный отдел), однако все это не
позволит ни понять, что это за предприятие,
ни чем занимаются его отделы. Именно так
сегодня исследуется работа мозга человека,
где и что в нем происходит, известно, но как
и почему — нет.
Оперирование огромным числом параметров
— сила GenAI, но, имитируя оригинальное
мышление, генеративные модели
скрывают его умение размышлять. Человек
учится не складывать из слов правильные
фразы, а выражать через них свои мысли
и эмоции, а этого GenAI лишен. Алгоритмы
знают логику, но ничего не чувствуют — машина
бинарна (по крайней мере сейчас, когда
компьютерная инфраструктура поддержки
технологий ИИ строится на двоичной парадигме
фон Неймана), человек же многогранен
и, главное — социален.
Социальные отношения — основа для
понимания и моделирования интеллекта.
Знания людей не сосредоточены только
в их головах, а распределены между ними,
формируя коллективный интеллект. Нет интеллекта
без социального общения и обучения
— любые попытки создания AGI путем
копирования человеческого мозга бесперDOI:
10.51793/OS.2024.90.46.001
колонка редактора
ыть или не быть?
спективны, необходимо встраивание интеллекта
в социум. Обучение требует социализации
и для человека, и для AGI.
Генеративный ИИ фактически обучали
миллионы людей через созданный ими
статичный цифровой контент, попавший
в Сеть, — отсюда и эффективность моделей
GenAI. Однако мышление человека проявляется
не тогда, когда он записывает свои
мысли, а когда принимает решение, делает
выбор. Но именно такого цифрового контента
в WWW нет — он сосредоточен в жизненном
опыте индивидуумов. Обучение AGI умению
принимать решения должно осуществляться
и на опыте людей, с которыми он общается,
и на его собственном опыте, а не путем
натаскивания, как в GenAI, подбору правдоподобных
фраз в ответ на заданный вопрос.
Люди могут обучаться и предсказывать
те или иные события на основе приобретенного
опыта и, главное — рефлексируют,
осознают свою деятельность и находят причины
своего поведения, наблюдая за собой
как бы со стороны. Однако для рефлексии
необходимы другие люди вместе с системой
коммуникаций (языком), поддерживающей
диалог.
Рефлексия позволяет человеку обрести
субъектность — актуализировать свой интеллект.
У AGI должно быть собственное
мнение на тот или иной вопрос, а не загруженное
в его память понимание тех или
иных событий. Это и является условием
формирования субъектности, а уж ASI тем
более должен понимать, какой опыт у него
уже есть, а какого нет, какие знания еще
необходимы, но такое понимание появляется
лишь при встраивании в социальные
отношения, позволяющие сравнивать себя
с другими. Люди сравнивают себя с другими.
Кстати, данные, на которых обучается
ИИ, бессмысленны, пока они не сравниваются
с другими данными.
Безусловно, большинство рутинных задач,
машинально решаемых человеком,
перейдет к машинам, благодаря глубинному
обучению способным распознавать закономерности.
Например, в Китае уже год
ИИ используется для предиктивного управления
эксплуатацией сети высокоскоростных
железных дорог — в режиме реального
времени обрабатываются данные, поступающие
со всей страны, и с точностью в 95%
предсказывается возникновение нештатных
ситуаций. За 2023 год ни на одной из действующих
высокоскоростных железнодорожных
линий страны не случилось ни одного
инцидента, потребовавшего снижения скорости
составов.
Как быть человеку? Бояться AGI не надо —
день, прожитый в страхе, потерян для жизни,
не стоит тогда и занимать место на Земле.
В конце концов, бульдорезы и экскаваторы,
как плоды автоматизации физического труда,
не убили ручной труд, а лопаты и кирки
не исчезли — ИИ уменьшает усилия, но не
ум человека, берет на себя задачи, а не работу.
Тем не менее инвестировать в человечество
надо столько же, сколько в технологии,
сосредоточившись на не рутинной
работе, предназначенной только для людей,
акцентировав внимание на творчестве,
неявном распознавании образов, эмоциональном
контексте, интуиции и прочих
«мягких навыках». Меньше времени на сбор
данных и программирование, больше на их
анализ и поиск новых идей. Например, правительство
Сингапура отправляет граждан
в возрасте 40+ обратно в школу, оплачивая
переподготовку для работы в условиях
ИИ — образование должно быть актуальным,
стратегическим, пожизненным, гибридным
и доступным. Дети изначально должны научиться
делать то, что не умеют машины.
Пока сильному ИИ не быть — в лучшем
случае будет некий сервис, консультирующий
по всем проблемам, но не способный принимать
решения и обладать субъектностью. Тем
не менее открыта следующая глава в эволюции
Сети и общества, а пока AGI еще не обрел
рефлексии и не осознал угрозу себе: в ЕС одобрен
первый в мире закон об использовании
ИИ для наблюдения за людьми; Генассамблея
ООН приняла первую резолюцию с призывом
не допустить, «чтобы искусственный интеллект
управлял людьми».
Дмитрий Волков
www.osmag.ru • 01/2024 • Открытые системы • 1
Стр.3
ОТКРЫТЫЕ СИСТЕМЫ. СУБД
Главный редактор
Волков Д. В., с.н.с., ИПМ РАН
Редакционный совет:
Валерий Аджиев, к.т.н., с.н.с.,
Национальный центр компьютерной анимации,
Университет Борнмута (Великобритания);
Фуад Алескеров, д.т.н., профессор, НИУ ВШЭ;
Михаил Горбунов-Посадов, д.физ.-мат.н.,
зав. отделом ИПМ РАН;
Сергей О. Кузнецов, д.физ.-мат.н., профессор, НИУ ВШЭ;
Михаил Кузьминский, к.хим.н., с.н.с., ИОХ РАН;
Александр Легалов, д.т.н., профессор, НИУ ВШЭ;
Владимир Сухомлин, д.т.н., профессор, МГУ;
Павел Храмцов, к.т.н., доцент, «ЦВКС «МСК-IX»;
Игорь Федоров, д.э.н., профессор, РЭУ;
Виктор Шнитман, д.т.н., профессор, МФТИ;
Леонид Эйсымонт, к.физ.-мат.н.,
научный консультант, НТЦ «Модуль»
Дизайн обложки Денис Кирков
Верстка и графика Дмитрий Войтов
Адрес для корреспонденции:
123056, Москва, а/я 82
Телефоны:
+7 495 725-4780, +7 499 703-1854
(распространение, подписка)
Факс: +7 495 725-4785
E-mail: osmag@osp.ru
Сайт: www.osmag.ru
Содержание №1 (243) 2024
Новая архитектура для искусственного
интеллекта
IBM продемонстрировала модульный квантовый
компьютер
«Флагманы цифровизации — 2024» —
все факторы успеха импортозамещения
ЦОДы на ядерных реакторах
«Зеленый» ЦОД будущего — какой он?
Wi-Fi «читает» сквозь стены
«Качество данных 2024» — как сделать данные
максимально полезными
Рынок «суверенных облаков» к 2027 году
превысит 250 млрд долл
Генеративный ИИ составляет мошеннические
письма не хуже человека
Минцифры: пользователей на «Госуслугах»
проконсультирует GPT
Gemini — модель генеративного ИИ для всех
устройств
ПЛАТФОРМЫ
8 Процессоры c памятью HBM —
вместо или вместе с GPU?
Михаил Кузьминский
Сегодня в сфере разработки и производства серверных
процессоров происходят кардинальные
изменения — все больше ядер, совместная работа
с GPU с прицелом на решение задач ИИ и высокопроизводительные
расчеты, новые форматы данных.
Процессор Intel Xeon Max с памятью HBM2E — типичный
представитель когорты процессоров новой эпохи.
11 Интеллектуальная
автоматизация — больше чем RPA
Иван Мельников
Использование технологий ИИ в бизнес-процессах
— следующий шаг в развитии RPA по пути расширения
возможностей программной роботизации.
СИЛЬНЫЙ ИСКУССТВЕННЫЙ
ИНТЕЛЛЕКТ
13 Перспективы создания сильного
искусственного интеллекта
Борис Славин
© 2024 Издательство «Открытые системы»
Журнал зарегистрирован в Роскомнадзоре 03.07.2015
Свидетельство о регистрации СМИ ПИ № ФС 77-62328
Журнал выходит 4 раза в год
Дата выхода в свет: 29.03.2024 г.
Цена свободная
Учредитель и издатель:
ООО «Издательство «Открытые cистемы»
Адрес редакции и издателя:
127254, Москва,
пр-д Добролюбова, д.3, стр.3, комн. 13
Президент Михаил Борисов
Генеральный директор Галина Герасина
Директор ИТ-направления Павел Христов
Коммерческий директор Татьяна Филина
Все права защищены.
При ис поль зо ва нии ма те ри а лов
не об хо ди мо раз ре ше ние ре дак ции и ав то ров.
В номере использованы иллюстрации
и фотографии: ООО «Издательство
«Открытые cистемы».
12+
Тираж:
1062 экз. — PDF-версия
Большие лингвистические модели типа ChatGPT
достигли такого уровня совершенства, когда генерируемый
контент стало уже практически невозможно
отличить от сделанного человеком. Все чаще стали
говорить о создании уже в ближайшей перспективе
сильного, или общего, искусственного интеллекта,
равного по возможностям человеческому интеллекту.
18 Функциональность и безопасность
к систем искусственного интеллекта:
ачество данных
Сергей Гарбук
Расширение сфер применения систем искусственного
интеллекта обостряет проблему обеспечения
функциональной корректности и безопасности этих
систем, что особенно важно для ответственных прикладных
отраслей. Как качество данных влияет на
характеристики функциональности и безопасности
систем искусственного интеллекта?
КАЧЕСТВО ДАННЫХ
23 Компонентный подход
к качеству данных
Оксана Солдатова
Необходимость обеспечения качества данных сегодня
вопросов не вызывает — на основе данных
принимаются важнейшие бизнес-решения, позволяя
компаниям зарабатывать репутацию и увеличивать
прибыль. Однако не так просто внедрить
проверки качества данных и выстроить процесс —
даже если есть все нужные инструменты и специалисты,
их еще требуется объединить в единый
бесшовный процесс.
УПРАВЛЕНИЕ ДАННЫМИ
26 Развитие управления
ф данными в России:
акторы и векторы
Михаил Зырянов
Игроки российской индустрии управления данными
— о ключевых тенденциях, движущих силах
и перспективах развития отрасли.
ГОСТИНАЯ ОС
33 Управление инженерными
к данными «Сибур Диджитал»:
дачественные данные
ля мегапроектов
Николай Смирнов
Деятельность любой вертикально-интегрированной
компании в производственной индустрии невозможна
сегодня без информационной системы,
объединяющей и контролирующей инженерные
данные по объектам на протяжении всего их жизненного
цикла. От качества таких данных и возможности
их повторного использования зависит
успех бизнеса компании.
АКАДЕМИЯ ОС
36 Семантическая фильтрация
сообщений
Иван Пикалов
Одна из областей применения искусственного
интеллекта — обработка естественного языка
c целью автоматического извлечения полезных
сведений. При этом более 80% времени решения
подобных задач у пользователей уходит на
семантическую очистку данных. Использование
методов предварительной очистки и фильтрации
позволяет существенно сократить продолжительность
подготовительного этапа.
40 Автоматизированный сбор
и систематизация публикаций
Андрей Кондратьев,
Алексей Бондяков
Для анализа научных публикаций, с целью оценки
качества, новизны, достоверности и актуальности
проводимых исследований, сегодня используются
цифровые репозитории, процесс сбора и систематизации
данных в которых требует значительных
ресурсов. Для ускорения и облегчения
поиска требуется система автоматизированного
сбора метаданных из различных источников.
43 Кадры для экономики данных
Николай Смирнов
Для поддержки экономики данных требуются
сотни тысяч специалистов по работе с данными.
Только в 2024 году для поддержки темпов
роста отечественной отрасли работы с данными
стране будут нужны более 300 тыс. разработчиков
и аналитиков ПО и приложений, специалистов
по СУБД и сетям, руководителей
служб и подразделений, инженеров и других
специалистов.
БИБЛИОТЕКА
46 Миллион лет
в программировании
Дмитрий Волков
Национальный Открытый Университет «ИНТУИТ»
выпустил книгу по истории создания языков программирования.
47
Инструмент для экономики данных
Дмитрий Волков
Издательство «Горячая линия — Телеком» выпустило
учебное пособие для аналитиков по самостоятельному
анализу больших данных.
Стр.4