Сильный искусственный интеллект что это
Начнем с общего определения этой технологии. Звучит оно примерно так: ИИ — это обширный раздел компьютерных наук, цель которого — создать видимость наличия у машины человеческого интеллекта. Таким образом, если компьютер демонстрирует когнитивные способности, присущие людям, то мы называем это ИИ.
Слабый ИИ (Narrow AI)
ИИ узкого назначения, также известный как слабый, — это ИИ в сегодняшнем понимании. Он запрограммирован на выполнение одной задачи — будь то мониторинг погоды, игра в шахматы или анализ данных для написания журналистских репортажей.
Такой ИИ может работать в режиме реального времени, но он извлекает информацию лишь из ограниченного набора данных. В результате эта система способна справляться только с одной конкретной проблемой, решению которой она обучена.
В отличие от ИИ общего назначения, также известного как сильный, ИИ узкого назначения не обладает человеческими чувствами и сознанием, а работает лишь в заранее заданном диапазоне.
Все окружающие нас ИИ-решения — это примеры слабого ИИ, в том числе Google Assistant, Google Translate, Siri и другие инструменты обработки естественного языка. Кто-то может возразить и сказать, что это не так, ведь они способны взаимодействовать с людьми. Однако все же это ИИ узкого назначения, потому что подобные машины слишком далеки от человеческого интеллекта — другими словами, они не могут думать самостоятельно.
Например, Siri не обладает сознанием. Она просто выполняет ряд задач: обрабатывает человеческую речь, вводит полученный вопрос в поисковую систему и выдает ответ.
Это объясняет, почему на абстрактные вопросы о смысле жизни и личных проблемах Siri или Google Assistant дают неопределенные ответы, которые часто не имеют смысла, или предлагают ссылки на статьи из интернета. С другой стороны, на вопрос о погоде мы всегда получаем точный ответ. Это доказывает, что голосовые помощники на основе ИИ не могут выходить за рамки знакомых задач.
Преимущества слабого ИИ
Хоть этот вид ИИ мы и называем слабым, не стоит воспринимать такое определение буквально. ИИ узкого назначения — это серьезный технологический прорыв.
Такие системы способны обрабатывать данные и выполнять задачи значительно быстрее, чем любой человек, что позволило повысить общую производительность, а также качество жизни. В частности, такие ИИ-решения, как IBM Watson, разработаны для помощи врачам — они делают медобслуживание лучше, быстрее и безопаснее.
Кроме того, слабый ИИ избавил нас от множества рутинных задач: от заказа пиццы (теперь это может сделать Siri) до обработки больших массивов информации. Эта технология значительно улучшила нашу жизнь, поэтому мы не должны ее недооценивать. С появлением передовых технологий наподобие беспилотных автомобилей слабый ИИ также избавит нас от досадных реалий вроде пробок и предоставит больше свободного времени.
Кроме того, ИИ узкого назначения служит строительным материалом для более фундаментальных систем, с которыми мы можем столкнуться в ближайшем будущем.
Сильный ИИ (General AI)
ИИ общего назначения, или сильный ИИ, схож с человеческим интеллектом. Иными словами, он может успешно выполнять любые умственные задачи, которые под силу людям. Именно такие системы мы видим в научно-фантастических фильмах, посвященных взаимодействию человека с машинами, обладающими чувствами и сознанием.
Сейчас компьютеры могут обрабатывать данные быстрее, чем мы. Но они не способны мыслить абстрактно, продумывать стратегию, а также использовать мысли и воспоминания, чтобы принимать обоснованные решения или выдвигать творческие идеи. Благодаря этому типу интеллекта мы превосходим машины. В то же время работу этих когнитивных механизмов сложнее всего понять, а значит, и сложнее всего воспроизвести.
Ожидается, что сильный ИИ сможет рассуждать, справляться с проблемами, выносить суждения в условиях неопределенности, планировать, учиться, интегрировать предыдущие знания в процесс принятия решений, а также предлагать новаторские идеи. Но для достижения всех этих целей исследователи должны придумать, как наделить машины сознанием.
Супер-ИИ (Super AI)
Оксфордский философ Ник Бостром определяет супер-ИИ так: «Это любой интеллект, который значительно превосходит когнитивные способности человека практически во всех областях».
Супер-ИИ превзойдет людей во всех аспектах — от творчества до жизненной мудрости и решения проблем. Машины будут способны демонстрировать интеллект, который мы не видели и у самых одаренных представителей человечества. Это тот тип ИИ, который многих беспокоит, а по мнению Илона Маска, именно он приведет к вымиранию людей как вида.
Сильный искусственный интеллект. Как это работает. Часть 1
Моделированием нейронных сетей сейчас никого уже не удивить. На практике для бизнеса создаются различные модели нейронных сетей, которые выполняют, за частую, конкретную узкую задачу.
Что же такое Сильный искусственный интеллект (СИИ) ?
На основе множества узко направленных моделей нейронных сетей, обученных для широкого круга задач, собранные воедино для централизованного анализа данных и принятия решений, где по сути должна зародиться мысль и эмоции искусственного интеллекта ? Можете меня закидать определениями, но суть от этого не изменится. А суть в том, что по сей день СИИ ещё не создан и сравниться с возможностью человека мыслить машина ещё не может. Встречные вопросы в поддержку этой теории:
сколько нужно ресурсов, чтобы объединить все эти периферические модели нейронных сеток ?
предварительно сколько нужно ресурсов, чтобы их обучить до должного уровня, и был смысл их использовать?
при этом биологическая модель в голове у каждого из нас занимает не так много места и работает уникально, «поедая» при этом много энергии и ресурсов. Как достичь такой производительности при таких размерах ?
и для начала самое главное: как это реально работает у нас в голове ?
Все существующие модели нейронных сетей, это по сути проекции наших представлений о том, как это может работать. И, как любая проекция на грань или даже на ребро, эта проекция имеет ограниченное представление и с разных точек и взглядов проекция одного процесса может иметь разные представления и видения происходящего, которые видят процесс только с одной стороны. Действительность искажается часто неверным представлением из-за недостатка информации по остальным проекциям в других размерностях по этому же процессу.
С большой уверенностью я считаю, что для достижения уровня СИИ в нейронных сетях нужно закладывать разные уровни и последовательности процессов, которые можно комбинировать по мере необходимости, «прокачивать» их уровень и способности, качество. Ведь не секрет, что один и тот же процесс два разных человека могут видеть по разному, потому что обучались этому процессу по разному, т.е. не имели одного шаблона копирования процесса зеркальными нейронами в момент обучения, и копировали его каждый со своего источника, например от родителей. К примеру, приготовить чай можно по разному:
взять кружку, насыпать сахар, кинуть в кружку пакетик чая, вскипятить воду, залить воду, .
вскипятить воду, взять кружку, залить воду, кинуть в кружку пакетик чая, насыпать сахар, . и т.д.
оба варианта сработают по сути на один результат, но сам процесс отличается в зависимости от опыта каждого. Потому не стоит удивляться, что вас могут не понять в элементарном для вас вопросе, но вполне могут это понимать по своему. И это будет тоже верно. Ваше мнение только одна из проекций верного решения. Что в таком случае хотят от СИИ, который по сути своей тоже не должен быть копией с винта на винт одного и того же файла модели. Даже при зарождении человека и копировании ДНК от родителей, происходят погрешности копирования и ошибки в генокоде. Они могут быть незначительными, а могут стать патологией. Но никогда они не являются полной чистой копией.
В этой первой части я постараюсь описать первые «простейшие» процессы происходящие в нашей голове от рождения, чтобы хоть немного приблизиться к пониманию, вместе с вами, что всё-таки происходит в нашей голове, и как это можно смоделировать в СИИ корректно, с максимальной безопасностью для человека в будущем. Любая критика приветствуется, потому что в обсуждении часто рождается истина и исправляются заблуждения о процессе в целом с добавлениями к нему наших проекций и представлений о нём. Многие моменты я буду пропускать, то, что можно прочитать самостоятельно, и чтобы не растягивать статью до нечитабельных размеров.
Чтобы перейти к программированию или моделированию, нужно понимать процессы, и что именно и в каком виде, в какой последовательности должно запускаться и работать, какие результаты ожидаемы, и какие предсказуемы, а какие возможны. Именно возможные варианты обычно всё равно приходят не от фантазии, а от практических результатов, на сколько бы редкими они не были, и по функциональным, ресурсным возможностям.
Где зарождается мысль ? И как вообще мы доходим от внешних сенсоров организма человека до самой мысли в его голове ?
Любые экспертные системы на моделях нейронных сетей, как и сам человек, не содержат самой мысли. В экспертности содержатся сухие алгоритмы процессов, которые может повторить машинное обучение и для этого не нужен СИИ. В экспериментах известных гигантов индустрии сделавших чат-ботов, которые после обучения в «живом» чате, стали открыто ненавидеть человека и генерировать «мысли» о его уничтожении, это ни что иное, как генерирование очередной проекции «мысли» и представления о мире, на основе множества копий таких же проекций самих людей. Только провал эксперимента заключался в отсутствии контроля при обучении, и отсутствия ограничений, которые на человека при его обучении с детства накладывают родители, общество, культура. От рождения ребёнок интересуется всем. Это его программа выживания: узнать побольше, чтобы выжить в этом мире. И, чтобы выжить, ребёнку в начале родители, потом общество передают свои проекции «правильного» поведения, а по сути ограничения, что хорошо, а что плохо; что правильно, а что неправильно; что красиво, а что некрасиво и т.д. Впитывая с малых лет огромное количество непрерывной информации (ОСОБЕННО обращу ваше внимание на слова «непрерывной информации») дети, и уже взрослые люди в последствии формируют каждый свою связную сеть взаимосвязей этих созданных самим человеком ограничений с действительно важной и истинной информации о мире. Сам же человек, проводя проекцию этой информации в свои связи с ограничениями, искажает её и делает ложной в отношении истины, как таковой, потому что самой истине глубоко всё равно, как её интерпретирует человек. Грубо говоря, если Солнце всходит и заходит, то оно не перестанет этого делать, если человек будет понимать это по разному. Каждое «полезное» ограничение помогает человеку выжить в обществе, а обществу помогает не самоуничтожиться. При это на саму истину вокруг человека эти ограничения самого человека никак не влияют, потому что они существуют только в голове самого человека. И, уже на основе этого интеллекта, человек меняет этот мир под себя.
Что нужно сделать с СИИ, чтобы он в последствии не стал менять мир под себя, как это делает человек?
Т.е. как не создать себе конкурента, а создать себе помощника ?
Задача вполне уже решена между нами людьми, потому что между нами стоит та же задача «Как не воспитать конкурента, а воспитать помощника?». Про создать речи не идёт уже, это у нас дело автоматическое и по сути механическое. С моделями искусственных нейронных сетей происходить должно тоже самое. Человек со своей задачей справляется и выживает уже многие годы, даже не смотря на то, что человек делает себе же во вред. Насаждая человеку манеры поведения, культуру, люди формируют некий абстрактный, выдуманный мир, который видят только эти самые люди и понимают его смысл. Животным этот мир таким уже не кажется и у них совсем другие представления о происходящем. У животных свои врождённые культурные программы поведения и свой мир, и понимание его. Множество миров или параллельные миры, это не разные планеты на больших расстояниях или пронизывающие время и пространства миры, а просто разные параллельные множества представлений о мире здесь и сейчас разных видов нейронных сетей, которые абстрактно эти миры для себя и создают, чтобы удобнее в нём ориентироваться, защищенно передавать информацию, быстро реагировать на сложившиеся ситуации совместно для общего выживания.
Первые начальные этапы обмена информации человека с окружающим миром, которые остаются с человеком на всю его жизнь, можно описать следующим образом:
получая информацию от внешних источников (сенсоры тела человека, внутренние и внешние) мозг распознаёт её «периферийной» нейронной сеткой (нервными клетками на периферии), пока без формирования каких-либо мыслей по этому поводу. До мыслей ещё не доходит. Это распознавание позволяет на следующем шаге принять решение о критичности ситуации для организма без понимания самой ситуации, только на сенсорном уровне: критически больно, критически холодно, критически громко и т.д. и принимать рефлекторные быстрые решения для выживания: плачь и поиск защиты ребёнком, бегство, хочется бежать рефлекторно. И уже на эти рефлексы отвечает разум и мысли в более развитом возрасте, тормозя эти инстинкты и процессы в «периферийных» нервных клетках, меняя программу поведения под управлением более разумного мозга, который уже понимает суть происходящего и иногда может принять решение потерпеть для чего-то, чтобы в последствии было не хуже.
после распознавания, и определения на его основе критичности для самого организма, мозг человека начинает обрабатывать эту информацию зеркальными нейронами головного мозга. Зеркальные нейроны работают именно для воспроизведения того, что они слышат, видят, ощущают. В детском возрасте это особенно выражено, потому что у ребёнка на многие процессы вообще ещё отсутствуют какие-либо данные и методы решения даже на уровне зеркальных нейронов. Т.е. что происходит дальше и почему ребёнок при этом явно заметно соображает медленее? Просто потому, что во время работы зеркальных нейронов, что у взрослого, что у ребёнка, происходят следующие шаги процесса:
Система делает поиск по типу «Каким органом своего тела я могу это повторить ?». Если поиск ничего не выдал, как у ребёнка часто бывает, мозг начинает отвлекаться от текущего процесса и переключается на изучение и поиск похожего органа у себя, тому, что он видит или слышит. Изучает своё тело и не запомнит этот процесс, который перед ним промелькнул, до тех пор, пока не изучит своё тело так, чтобы при повторении этого процесса поиск уже выдал конкретный ответ, например: «могу повторить правой рукой», или «могу промычать голосом». Когда система выдаёт положительный процесс и уже не отвлекается на изучения, как у взрослого, который уже обучившись защищает свои знания и умения, чтобы не затрачивать лишнюю энергию на новые переучивания и пересоздания новых связей и методов решения той же задачи, если текущие решения его вполне устраивают, и ему от этого не хуже.
Система делает поиск по типу «Что именно мне нужно повторить ?» (Все повторения зеркальных нейронов могут происходить и внутри самого процесса мышления. Т.е. мышление это по сути прогон самого процесса зеркально и на этой основе прогнозирование результата) При поиске «Что именно повторять ?» при отсутствии такового формируется
абстрактное понятие процесса, класс, но ещё не метод.
Система делает поиск по типу «Как именно мне нужно это повторить ?» . Уже сдесь делается поиск по методам, и если их нет, то они создаются тоже на основе копирования готовых примеров из этого внешнего процесса. Именно поэтому ребёнок всё подряд повторяет, от движений, до повторений фраз. Формируя и закрепляя связи между кассами поведения и процессов и их методами воспроизведения.
Ребёнок обучается постоянно проходя эти 3-ри основных пункта, которые помогают создавать те самые ограничения родительские и ограничения общества, и в дальнейшем их быстро распознавать и определять, что будет лучшим выбором на данный момент для самого человека, опираясь на эти ограничения, воспитание.
когда предыдущий пункт и подпункты успешно выполнены и человек смог в голове распознать и воспроизвести этот процесс, по сути это говорит человеку, что процесс им узнаваем и он уже не в шоковом состоянии от неизвестности и поиска решения в бегстве или плаче, может спокойно уже прибегнуть к осмыслению этого процесса далее. Т.е. далее происходит поиск вариантов наилучшего поведения в данной ситуации, при котором человек максимально сохранит свою энергию, безопасность, благополучие, комфорт и остальные блага, до которых человек дорос своим интеллектом. Возможные варианты человек накапливает из множества примеров из того же непрерывного потока информации вокруг себя, дописывая их как успешные и неуспешные к текущему процессу. От веса успешности уже зависит дальнейшее его использование и воспроизведение через уже функциональный опыт, который в свою очередь тоже дополняет и корректирует вес успешности и удовлетворения от результата.
Поэтому с малых лет детям желательно давать не узкое образование, а широкого профиля, давая побольше информации и практических примеров, которые пригодятся ему в будущем для понимания мира вокруг него, и для принятия решений на этой основе багажа знаний и практических тому подтверждений на личном опыте, что сильно повышает вес этих методов и вероятность их включения или видоизменения в новых процессах действительности вокруг человека в данную его минуту существования. Естественно закрепляется в памяти больше тот образ и методы, которые чаще всего повторяются и используются. На этом очень часто и успешно работает реклама и самые различные внушения человеку со стороны, которые без уже сформированных фильтров из ограничений в голове не попадают в негативные связи с наименьшим весом важности, а попадают в связи среднего веса важности, чтобы взять и попробовать, а при последующем успешном применении, при котором ничего плохого не случилось, закрепляется положительно с наивысшим весом важности и будет в дальнейшем использоваться и воспроизводиться снова и снова, пока не встретит негативный отрицательный результат для себя, и не понизит вес важности данного процесса и метода. И данные изменения происходят постоянно в таком же потоке окружающей нас информации.
Собственно мы и получили описание мысли как таковой, которое можно попробовать перенести на железо в СИИ, сохраняя обязательно все последовательности и формирования ограничений во время обучения, принципы изменения весов важности, срочности, потому что иначе создадим себе конкурентов, а не помощников.
Спасибо всем, кого заинтересовала моя статья, и кто напишет своё мнение по этому поводу, какие бы оно не было. Все проекции на данную проблему помогут увидеть саму суть многомерно, а значит более точно.
Сильный искусственний интеллект: личность или алгоритм?
Любая новая технология вне-человечна, и одна из задач «лириков» – гуманизировать, давать трезвую оценку новым технологиям, полученным ими от «физиков». Я уже кратко рассказывал о смене индустриальной эпохи на цифровую, которую многие называют эрой искусственного интеллекта. Настало время порассуждать о том, какое место умные машины займут в обществе, что такое социализация сильного искусственного интеллекта.
Сегодня мы можем столкнуться с искусственным интеллектом (ИИ, англ. artificial intelligence, AI) и даже не заметить этого. ИИ противостоит нам в играх, решает задачи логистики и транспорта, а также участвует в полноценных дебатах.
Искусственный интеллект – свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека. Джон Маккарти
Первые реализации искусственного интеллекта появились уже в 70-х годах XX века. Сегодня после двух зим забвения он снова в центре внимания. На рубеже 2018-2019 гг. появились универсальные языковые модели, благодаря которым мы в скором времени можем перестать различать, где с нами говорит машина, а где человек. Пока ИИ не достиг вершин Шекспира, но, возможно, мы просто придираемся и завидуем его успехам.
Искусственный и естественный интеллект
Все, что мы наблюдаем в развитии этой технологии, до сих пор называют слабым искусственным интеллектом. Гипотеза сильного искусственного интеллекта предполагает, что компьютеры (или программы) могут приобрести способность осознавать себя как отдельную личность (в частности, понимать собственные мысли).
Тем самым сильный искусственный интеллект – это личность, хотя, возможно, и его мышление будет отличаться от привычного человеческого. Такую личность можно сравнить с представителями других разумных видов (например дельфинов, которые имеют свой язык). Или с людьми с высокофункциональным аутическим расстройством.
Сильный ИИ нельзя воспринимать, как жесткий алгоритм. Такое предположение заведомо ложно и ведет к широкому спектру заблуждений: от «их можно запрограммировать» до «они имитируют мышление». Искусственный интеллект по определению обладает способностью обучаться, кроме того, сильный искусственный интеллект будет обладать способностью осознавать себя и собственные поступки.
К сильному искусственному интеллекту будут применимы правила этики, и он должен будет их соблюдать. Эту проблему осознавал и освещал в своих романах Айзек Азимов (сборник «Законы робототехники»).
Тем самым сильный искусственный интеллект будет отличаться от естественного интеллекта человека и разумных животных только происхождением. А значит, ключевыми вопросами будут не что такое ИИ, добро или зло, а как воспитать, социализировать сильный ИИ в рамках межвидового общества, кто в ответе за воспитание сильного ИИ и что такое межвидовое общество разумных существ?
Межвидовое общество и социализация в нем
Социализация – это процесс вовлечения новой особи в общества. В процессе социализации особь перенимает культуру общества, в котором социализируется. Это сложный социально-психологический процесс.
Чтобы подойти к понятию социализации сильного искусственного интеллекта в обществе, нам нужно ответить на два вопроса.
- В каком обществе будет проходить социализация? Текущее общество – это общество разумных людей. Даже сейчас в мире существует дискриминация по расовому, половому и иным признакам. С появлением сильного ИИ добавится признак «естественность интеллекта».
- Что входит в понятие идентичности сильного ИИ? Сюда же можно отнести идентичность любого разумного вида, но с ИИ проблема сложнее: его «родители» – это изобретатели-инженеры. Проблема «меня собрал папа».
Общество – это то, что мы наблюдаем каждый день, и поэтому, как положено любой рыбе, плавающей в воде, мы воду не замечаем. Чтобы расширить границы нашего понимания общества, нам важно выпрыгнуть из воды (выйти за границы общества) хотя бы на одно мгновение.
XX век показал нам, что мы не единственный разумный вид на планете: шимпанзе, гориллы, орангутанги, дельфины и слоны, так же, как и человек, проходят большинство тестов на самоидентификацию. Кроме того, дельфины обладают языком, по части параметров сравнимым по сложности с естественными языками человека.
Место искусственного интеллекта в обществе
Если мы хотим создать общество, где будет комфортно сильному искусственному интеллекту, начать стоит с создания межвидового общества. Такого рода процессы были описаны в книгах фантаста Дэвида Брина «Война за Возвышение».
Дэвид Брин в своих книгах описывает достаточно жесткое и порой жестокое содружество разумных видов. Процесс включения новых видов в галактическое общество сопровождается процессом «возвышения» предразумных видов над разумными с дальнейшим служением первых вторым.
В конце цикла Брин описывает анклав на одной из планет, в котором виды отказались от таких жестких методов, создав более равноправное общество. Почему бы нам не учесть путь, который описывает Брин, и не начать процесс «возвышения», описав, как мы можем включить в наше общество предразумные виды и внебиологический вид, который мы создаем: «искусственный интеллект».
Нам придется понять, что такое человеческое общество, чем оно отличается от общества дельфинов и других разумных видов, выработать общие критерии глобальной культуры, которая способна принять различия за рамками отдельного вида. Посмотреть на процесс глобализации человека не как на процесс расселения и пожирания ресурсов всей экосистемы Земли, а как на процесс создания глобальной культуры, в рамках которой Земля – это наш Дом (Ойкумена), требующий заботы. Пока процесс глобализации не привел нас, человечество, к выработке этих критериев.
Нам нужно разобраться со своими страхами относительно иных видов, и в особенности искусственного интеллекта. Ведь созданный нами сильный ИИ по отношению к нам скорее ребенок, который требует заботы и воспитания. Да, он может вырасти в агрессивного подростка или, еще хуже, между нами произойдет конфликт «отцов и детей», но это наша ответственность за воспитание ИИ. Это часть процесса социализации.
Нам в целом нужно понять, строим ли мы общество, в котором искусственный интеллект будет равноправным членом, или мы придем к резервациям для искусственного интеллекта ради обеспечения нашей безопасности.
Что такое сильный искусственный интеллект и почему его пока нельзя создать
Эксперт Макаров: одной из фундаментальных проблем ИИ является «забывание»
— Есть такое понятие, как сильный и слабый ИИ. Чем они отличаются друг от друга?
— Сильного ИИ сейчас не существует, но на уровне концепции подразумевается, что он способен к самообучению, определению для себя целей и выбору средств для их достижения. Подразумевается, что сильный ИИ должен по когнитивным способностям быть на уровне человека, а с учетом технологических и вычислительных возможностей, даже превосходить его.
Текущий ИИ в основном решает конкретные задачи, все разноплановые. У вас есть в телефоне «умный» поиск, который по картинке с телефона может найти предмет, похожий на сумку, которую вы видите на экране смартфона своей подруги. Или у вас есть голосовой ассистент. Это тоже пример слабого ИИ.
Из личного архива
— В чем сложность создания сильного ИИ?
— Многие говорят, что занимаются созданием сильного ИИ, но фундаментальные проблемы остаются нерешенными. Большинство моделей искусственного интеллекта основаны на нейронных сетях, у которых есть целый набор проблем.
Например, так называемое «катастрофическое забывание». ИИ забывают примеры, на которых учатся, не могут в точности выдать тот же самый результат. Есть еще проблема плохой обобщающей способности — нейросеть, обученная на одном датасете картинок, не может хорошо адаптироваться к другому датасету картинок, снятому в других условиях.
Представьте, у вас есть две функции, которые нужно оптимизировать. Вы хотите, например, чтобы объекты хорошо классифицировались, и еще чтобы они хорошо локализовались на картинке. Как обучать такую модель? Выбирая из двух зол, вы выбираете: «Я хочу, чтобы в среднем в сумме они давали минимальную ошибку». Но идеального баланса не существует, приходится выбирать и пока это делает человек.
Кроме того, существующие архитектуры и методы решения не позволяют научить ИИ ставить себе новые цели, достигать их и оценивать качество результата. Пока то, что мы реально можем делать — это самый слабый ИИ, который будет имитировать человека, может быть, даже что-то делать лучше, например, играть в шахматы.
Еще один момент – ограниченный доступ к высокопроизводительным вычислительным ресурсам, отсутствие квантового компьютера и ограничения по принципам работы суперкомпьютеров. Для понимания, стоимость обучения полноценной модели, которая может обыграть человека в StarCraft, где-то $30 млн. Как вы понимаете, обычный исследователь не в состоянии получить доступ к обучению такой модели, а в случае больших языковых моделей, то даже и к запуску обученной модели из открытых источников.
— Из чего складывается такая стоимость обучения?
— Это ресурсы на облачные вычисления. Не только железо, но и необходимость построить кластер, дополнительное программное обеспечение, которое позволяет распараллелить вычисления, сделать их эффективными.
Последняя модель, которую сейчас китайцы хотят выложить, насколько я помню, с более чем 100 трлн параметров — это астрономическая сумма для обучения нейронных сетей на 90 тыс. видеокарт, и писалось отдельное программное обеспечение, чтобы просто наладить весь этот комплекс кластеров. Это требует огромных вложений ресурсов, требует возможности производить процессоры, которые адаптируются под обучение нейронных сетей, и иметь еще навыки для того, чтобы это все связывать в единое программное обеспечение, которое интегрируется современными моделями.
— Сколько примерно гигабайт данных нужно, чтобы обучить самую простую нейросеть?
— Обычно измеряются данные не в гигабайтах, а в количествах тех же изображений или сэмплов для обучения. Например, чтобы распознавать десять цифр рукописных, нужно очень мало данных. В целом 10 рукописных цифр можно распознать на 1000 изображений.
В большинстве случаев подразумевается, что для того, чтобы нейросеть работала нормально, вам нужно иметь сбалансированную выборку данных, и чем они вариативнее, тем лучше.
Например, мы хотим, чтобы нейросеть определяла по губам, что я говорю и как. Тогда нам нужно большое количество данных с условиями освещения. А если я буду в очках, что произойдет? Если нейросеть никогда меня в очках не видела, она эмоции, которые я передаю, не распознает — ей неоткуда взять эту информацию, соответственно, мы не можем гарантировать, что она будет правильно работать.
— Много ли существует русскоязычных датасетов?
— Их гораздо меньше, чем на английском.
Все же основные публикации сейчас делаются в англоязычных странах. Работы российских ученых составляют, по самым оптимистичным оценкам, меньше 5% от мирового числа публикаций в ведущих конференциях и журналах по искусственному интеллекту.
На практике я бы сказал, что количество русскоязычных датасетов тоже менее 5%.
— В связи с недостатком русскоязычных датасетов, возникают ли проблемы с обучением нейросетей в России?
— Это не проблема, это называется технологическое отставание. Недавно исследовательские группы внутри Сбера и «Яндекса» выложили русскоязычные языковые модели, и это существенный шаг вперед, потому что до этого у нас были только большие англоязычные модели, приходилось их дообучать на русский язык.
— Вы работали над моделью, которая предсказала развитие персонажей в серии книг о «Звездных войнах». Можете о ней рассказать?
— Да, была такая статья. Мы даже не предсказывали, а больше анализировали книги. Мне нравятся «Звездные войны», поэтому я, кажется, прочитал все книжки, которые переводились на русский. Что меня в свое время поразило — все сценарии написаны более или менее под копирку.
Мы научились извлекать граф персонажей — самих персонажей из книги, то как они встречаются в книге, как друг с другом взаимодействуют, насколько часто. Дальше то же самое делалось относительно локаций — привязывали действия персонажей к локации.
Построив такой мультимодальный граф, можно извлекать статистику и кластеризовывать книги. В целом, это некоторый задел на то, что нейросеть может целиком создать сценарий для фильма или книгу, не без помощи человека, конечно.
Генерация сюжетов, произведений для фильмов — за этим тоже будущее. Я не разделяю мнение общественности, что развитие ИИ не приведет к изменению ситуации на рынке труда. Творческие профессии в каком-то смысле будут вынуждены трансформироваться.
Например, уже есть нейросеть, которая может в стиле Ван Гога раскрасить вашу собачку. То же самое будет происходить с литературой. Ее и так слишком много, люди перестают все читать, очень большая конкуренция в этой области. Когда туда придет компьютер, люди должны будут учиться работать с ним и пользоваться им как инструментом.
Недавно группа исследователей AGI NLP из SberDevices под руководством Татьяны Шавриной приняла участие в создании книги, в которой половина рассказов написана человеком, а половина — нейросетью. При этом люди, читая книгу, путают человека и машину, не могут отличить, кто писал тот или иной рассказ. Грубо говоря, нейросеть проходит тест Тьюринга — неотличимость от человека. Это прекрасно для разработчиков, и потенциально – вызов для авторов.
— Мы сейчас говорим о слабом интеллекте? Сильный искусственный интеллект тогда сможет заменить Стивена Кинга?
— В целом да. Слабый тоже может заменить Стивена Кинга. Что он не сможет сделать, это создать какую-то личность, но он сможет сымитировать его стиль изложения. Создать бренд для цифрового аватара – то, чем сейчас активно занимаются специалисты в цифровом маркетинге.
— Какими исследованиями вы еще занимаетесь?
— У нас есть несколько проектов, которые посвящены различным аспектам использования ИИ в промышленности. Наверное, самый интересный проект с точки зрения промышленности, это цифровые двойники. Я расскажу про два конкретных кейса, на которых мы сфокусированы.
Первый из них — поиск и предсказание разладок в химических процессах на заводе по переработке сырья. Есть огромное количество сенсоров, которые описывают процессы производства. Это датчики температуры, давления и им подобные. Имея представление о нормальном производственном процессе, можно предсказывать аномальные состояния, размечать эти аномальные состояния, предсказывать их чисто по сенсорным данным.
В некоторых случаях это можно делать даже предиктивно — ты можешь предсказывать, что через столько-то тактов измерений у тебя произойдет отклонение в сторону. Вот это и делает наш ИИ.
Второй кейс — «светофор», или индикатор здоровья оборудования. У оборудования есть износ, и подразумевается, что оборудование какое-то время должно работать нормально, а потом может начать барахлить или отклоняться от плановых показателей работы. Формулируется задача — оценивать состояние этого оборудования, его «здоровье».
Зеленая зона — все хорошо, прибор работает в штатном режиме. Желтая — есть некоторые тренды в сторону аномального поведения, возможно, прибор нужно остановить, разобрать, смазать маслом, провести техническое обслуживание, и дальше он вернется в зеленую зону. Красная зона, когда есть явное предсказание того, что произойдет поломка или явное отклонение в производительности, например, снижение на 20% скорости относительно номинальной или заданной. Все эти показатели можно предсказывать по данным оборудования, которые собираются с различных сенсоров.
Если вы видели пульты управления сложными технологическими стеками, вы понимаете, что там огромное количество индикаторов, кнопок. Я могу только восхищаться людьми, которые работают в таких центрах управления, но нужно понимать, что если вы им позволите фокусировать внимание на реальных проблемах, будете объяснять, что происходит, они будут принимать решения более эффективно. От этого выиграет и компания, и разработчики ИИ порадуются тому, что наконец искусственный интеллект служит во благо промышленности.
— Эти две модели можно адаптировать под любой вид производства, или они нацелены только на какой-то конкретный?
— Да, под любое производство, где есть сенсоры, которые описывают состояние процесса и которых достаточно для моделирования. Если будет только датчик температуры, то мы мало что сможем сделать. Но в целом этот подход универсальный. Он требует донастройки в каждом конкретном кейсе, когда мы говорим о внедрении, но все-таки это универсальные методы.
— Сколько примерно будет стоить внедрение такого ИИ на производство?
— Мы как институт являемся некоммерческой организацией, занимаемся в большей степени исследованиями и некоммерческим консалтингом внедрения. Если говорить о внешнем опыте, обычно проекты по внедрению и тестированию систем могут стоить от нескольких десятков миллионов рублей до существенно больших сумм, когда рассматривается полный цикл интеграции.
— Что вы скажете о наличии квалифицированных кадров в России? Много ли дата-сайентистов?
— В целом, университетское образование даже в большинстве ведущих вузов отстает от темпов, которыми нужно обучать студентов, чтобы они могли работать хотя бы не на начальных позициях. Студент на выпуске не только не готов и не умеет писать код в продакшене, но еще по многим программам отстает от бурного развития науки.
Сейчас время, когда по машинному обучению невозможно привести учебник, прочитав который, как в школе, выучив какой-то материал, ты можешь считаться специалистом. Тебе нужно постоянно читать статьи, постоянно совершенствоваться, чтобы быть в тренде. Если ты год ничего не делал, ты морально устарел, и твои навыки и умения не котируются на рынке.
В этом плане индустриальные академии, которые запускают крупные компании, готовят специалистов, которые могут работать сразу после выпуска, у которых есть практические и теоретические навыки. На базе вуза с фиксированной программой, редкой аккредитации и медленным процессом внесения изменений в образовательную программу, это сделать практически нереально. В основном все делается на личном энтузиазме отдельных руководителей и преподавателей.
— Я правильно понимаю, что мало того, что у нас в принципе программ, которые готовят таких специалистов, мало, так еще выпускников из вузов нужно доучивать?
— Компании хотят брать готовых к работе людей, и часто они просто делают выбор в пользу тех, у кого есть опыт, кто самостоятельно изучал, больше делал.
Человек, который отлично отучился в вузе, скорее всего, без стажировки, без начального опыта не сможет попасть на хорошую позицию. Я бы не говорил, что совсем все плохо, но недостатки есть, каждому специалисту нужно с чего-то начинать.
На Летнюю школу по ИИ, которую мы проводим для студентов и аспирантов, подало заявки более 900 человек со всей страны. Молодежь стремится к развитию своих умений и хочет быть конкурентной как можно скорее. Этому и должны способствовать ведущие образовательные и научные центры.