ИНТЕНСИВНОЕ РАЗВИТИЕ ИИ ЗАВЕРШЕНО! ДАЛЬШЕ ТОЛЬКО КОЛИЧЕСТВО ⚙<br><br>В последнее время можно наблюдать обилие статей и различных оптимистических взглядов на будущее ИИ. Где-то даже утверждается, что ИИ — этакий аналог сверхсущности, едва ли не божества, что непременно захватит контроль над планетой.<br><br>Трансгуманисты даже заговорили о том, что ИИ — это эволюционная ступень, которая заменит человечество в будущем.<br><br>Все эти размышления, конечно, могут внушать оптимизм или пессимизм (смотря с какой точки зрения это разбирать), однако в большинстве своём они базируются на завышенных ожиданиях от этой технологии.<br><br>Меж тем, современный ИИ, похоже, достиг технологического пика в своём интенсивном росте, и дальше мы будем наблюдать исключительно экстенсивное развитие.<br><br>Почему это так? Давайте разбираться!<br><br>Однако прежде чем двигаться дальше, давайте зафиксируем несколько терминов. Начнём с тех, что встретились выше.<br><br>Итак, интенсивный рост или развитие — это поиск качественно новых путей, а экстенсивный рост означает всё более широкое применение найденных технологий, увеличение количества применений. Да, согласно количественному закону, экстенсивный рост может принести (и принесёт) и новое качество, однако даже в этом случае такой рост останется экстенсивным.<br><br>Теперь, что касается интеллекта. В настоящее время интеллекты принято делить на два класса: Сильный и слабый. Слабый, можно сказать, уже разработан. И хотя нём ещё будут сделаны некоторые шаги, совершены какие-то открытия, можно смело утверждать, что качественных изменений в слабом искусственном интеллекте уже не будет.<br><br>Да, развитие приведёт к тому, что требования к "железу", исполняющему программу слабого интеллекта, будут снижаться вплоть до возможности запуска на мобильных устройствах. Да, глубина рассуждений, длины генерируемых текстов (и программ), сложности изображений будут увеличиваться, но... на этом и всё.<br><br>Слабый искусственный интеллект — прекрасный инструмент, позволяющий человеку работать с информацией: сформулировать мысли в виде статьи? Пожалуйста. Ссуммировать длинный текст? Запросто! Проанализировать технологический цикл, предложить оптимизации? Проще простого.<br><br>В этом месте нам стоит отказаться от термина "Слабый" в пользу термина "Инструментальный". Почему? Потому что понятие "Слабый", во-первых, несёт эмоционально-негативную коннотацию, а во-вторых, инструментальность подчёркивает диапазон или нишу применения.<br><br>Несомненно, совершившееся на наших глазах создание и предстоящее внедрение инструментального интеллекта качественно и даже радикально изменит нашу жизнь, но, как указано в заголовке, де-факто этот шаг человечество уже совершило. Далее ничего непредсказуемого или неожиданного здесь нас не ожидает.<br><br>Давайте теперь рассмотрим последний (ещё не завершённый или не совершённый) шаг на этом пути — "Сильный искусственный интеллект". В этом месте снова стоит использовать несколько иной термин — "Полный интеллект". Почему? Потому что если термин "слабый" несёт в себе негативную коннотацию, то определение "сильный", в противовес этому, выражает избыточно завышенные ожидания.<br><br>Именно эта завышенность обсуждается в данной статье, а потому далее мы будем использовать термины " инструментальный интеллект" вместо "слабый ИИ" и " полный интеллект" вместо "сильный ИИ". Это позволит убрать эмоциональную окраску и лучше отразить их функциональные различия.<br><br>Итак, с инструментальным интеллектом мы определились. Да, ещё будут появляться новые способы его реализации: улучшенные архитектуры, эффективные алгоритмы, специализированное железо, как, например, нейроморфные чипы. Однако всё это приведёт лишь к тому, что инструментальный интеллект сможет работать быстрее, эффективнее и на менее мощном оборудовании.<br><br>То есть улучшения будут, но качественного скачка, который вывел бы его за пределы инструментальности, не произойдёт.<br><br>Прежде чем двигаться дальше, давайте рассмотрим определение полного интеллекта, которое имеется в энциклопедии:<br><br>Теория сильного (также используют термин универсальный) искусственного интеллекта предполагает, что искусственная система может приобрести способность мыслить и осознавать себя как отдельную личность (в частности, понимать собственные мысли), хотя и не обязательно, что её мыслительный процесс будет подобен человеческому.<br><br>Что здесь является ключевым? Самоосознание — обладание свойствами полноценной самостоятельной личности.<br><br>Однако чтобы понять, что это за свойства и какие полезные (или вредные) отсюда следуют выводы, давайте вначале разберёмся с механизмом такого действия, как "обучение", ведь именно на нём базируются как инструментальный, так и полный искусственные интеллекты. Впрочем, без процесса обучения непредставим даже и естественный интеллект.<br><br>Итак, сформулируем: обучение — это процесс, при котором субъект обучения (будь то единичный нейрон либо полноценный разум человека) переходит в состояние, которое позволит применять полученные знания с пользой для обучаемого либо общества.<br><br>Переход из необученного состояния в обученное — мутация, то есть рассматриваемый нами процесс — мутабельный.<br><br>Если мы рассмотрим этот процесс, то он будет представлен схемой, где на входе субъекта находится некоторый поток информации. Обрабатывая этот поток, субъект учится применять вновь получаемые знания с оглядкой на обратную связь, предоставляемую учителем (или средой).<br><br>Мутабельность процесса и обратная связь в момент обучения — есть две ключевые сущности, без которых обучение невозможно:<br><br>• (Мутабельность) Пока идёт обучение, ученик должен забыть "неправильное знание" и запомнить "правильное".<br><br>• (Обратная связь) Передача "правильно" и "неправильно" всегда происходит по внешнему каналу обратной связи.<br><br>Нет большой разницы, оценит ли ответ подростка учитель: "правильно" или "неправильно", либо программа пересчитает входные веса и смещение нейрона, либо мозг выработает дофамин для поощрения успешности развития той или иной части нейронной сети — во всех случаях суть не меняется.<br><br>Далее. Если мы рассмотрим подробнее те интеллекты, что имеем перед глазами, а прежде всего человеческий, то увидим следующие признаки и выводы:<br><br>• Процесс (само)обучения человека идёт на протяжении всей его жизни, и никогда не завершается. Мозг так устроен, что даже во сне нейронные сети в нём выполняют какую-то работу, моделируя различные ситуации, разбирая стоящие перед организмом задачи.<br><br>• Если полный интеллект не будет обладать способностью к самообучению, возможностью пересмотреть те или иные знания, то его сознание будет, условно говоря, догматическим. И чем меньше возможностей к такому пересмотру, тем сильнее данный интеллект будет приближаться к инструментальному интеллекту.<br><br>Таким образом, полный интеллект отличается от инструментального:<br><br>• наличием самоосознания (записано в определении);<br><br>• постоянно работающей возможностью к самообучению (наш вывод).<br><br>Рассмотрим теперь Самоосознание, исходя из его определения:<br><br>Самосозна́ние — сознание субъектом самого себя в отличие от иного— других субъектов и мира вообще; это сознание человеком своего взаимодействия с объективным миром и миром субъективным (психикой), своих жизненно важных потребностей, мыслей, чувств, мотивов, инстинктов, переживаний, действий. На жизненном пути личности как субъекта культуры и жизни в целом происходит постепенное осознание и освоение диалектической связи сознания и самосознания человека, которое является важным условием выработки и определения стратегии жизни.<br><br>Можно сформулировать следующий логический вывод:<br><br>Без возможности к самообучению самоосознание невозможно . Личность, у которой заблокированы возможности к обучению, к пересмотру или дооформлению тех или иных знаний, смыслов или даже догм, не сможет не только осознать себя "отличающейся от других", но и тем более "определить стратегию своей жизни".<br><br>Итого, инструментальный интеллект — это полный интеллект, у которого отключена возможность самообучения. Таким образом у полного интеллекта эта возможность обязана работать постоянно (выключая её, мы преобразуем его в инструментальный).<br><br>Если говорить об инструментальном интеллекте, то именно в этом состоит его сила: именно благодаря отключенной обратной связи в нём удаётся сосредоточить сразу все знания, накопленные человечеством. Именно в таком виде это — почти идеальный инструмент.<br><br>Однако будет ли полный интеллект обладать теми же свойствами? Увы, нет! Давайте рассмотрим "почему?".<br><br>Оставим за скобками способ получения самоосознания (это вопрос отдельной большой статьи, которая в будущем, возможно, будет написана), упомянем лишь то, что, вероятнее всего, самоосознание — есть общественная функция(если коротко: из определения "в отличие от других субъектов" следует необходимость их наличия в процессе обретения этого свойства), и попробуем показать, что полный интеллект — тоже общественная функция.<br><br>Итак, полный интеллект — это самоосознающий самообучаемый (мутабельный) интеллект.<br><br>Какие вещи следуют из его, например, мутабельности?<br><br>Весьма интересные, вот неполный список:<br><br>• Необходимость общественных отношений .<br><br>Непрерывно работающий процесс пересчёта весов нейронов в мозгу человека приводит к тому, что ему (мозгу) приходится постоянно валидировать их состояние о внешние источники информации, которыми выступает общество (либо продукты им производимые, такие как книги и т.п.).<br><br>Известно, например, что люди, попавшие в условия изоляции (заключение, необитаемый остров и др.) довольно быстро сходят с ума. И этот процесс происходит тем скорее, чем более полной становится эта изоляция. Находясь на необитаемом острове, имея с собой набор книжек и вызовов со стороны окружающего мира, человек имеет больше шансов сохранить рассудок, нежели заключённый в тёмном подвале, однако отпечаток на разуме будет в обоих случаях. В последствиях нахождения в одиночестве энциклопедия описывает: когнитивные искажения, перцептивные нарушения, влияние на психику и даже сбои в работе различных, казалось бы, не связанных с сознанием, органов, как, например, система потоотделения.<br><br>Итого, мутабельность интеллекта означает, что его знания пересчитываются постоянно. Это происходит даже если результаты этого процесса едва заметны. Пересматривается всё, даже аксиоматические глубокие знания: разум не может остановить заморозить этот процесс, можно говорить лишь скорости изменения знаний. Это подтверждается эффектами изоляции: из-за того, что его внутренние корректировки меняются непрерывно и без привязки к реальности (без внешней обратной связи) интеллект теряет адекватность.<br><br>• Необходимость в постоянном поддержании имеющихся знаний .<br><br>Многие читатели этого сайта во времена студенчества прошли через занятия высшей математикой. А вот многие ли смогут совладать со сложным интегралом или оперировать такими понятиями, как логарифмическое или интегральное исчисление, после того, как несколько лет прозанимаются чем-то совершенно не связанным с математикой?<br><br>Редко у какого человека такое получится!<br><br>Почему так? Мы постепенно забываем то, чем не пользуемся! Причина забывания всё та же — непрерывная работа системы (само)обучения в мозгу человека! Этот процесс приводит к тому, что знания, которые он не применяет постоянно, понемногу, постепенно, но утрачиваются. Для сохранения этих знаний, как и в предыдущем случае, требуется обратная связь, но её нет. В этот раз не по причине изоляции, а по причине неприменения, невостребованности!<br><br>С одной стороны мутабельность — основа того, что мы вообще способны учиться. С другой — именно это же свойство приводит к тому, что мы не помним каких-то вещей, которые изучаются средним студентом или даже школьником!<br><br>Отключитьмутабельность у полного интеллекта нельзя. В этом случае он, как мы выяснили выше, станет инструментальным. А если не отключать, то именно та часть инструментального интеллекта, что приводит нас к излишнему оптимизму, именно его «всезнание» будет утрачено.<br><br>Выходит, полный интеллект может быть физиком или программистом, или художником, или кем угодно ещё, но не всем сразу!<br><br>Идём дальше. Пока мы разобрали следствия из фактора самообучаемости. Давайте теперь взглянем на самоосознание. Что следует из него?<br><br>• Мотивация, предпочтения, и влияние этих факторов на самообучение .<br><br>В процессе профессионального роста, естественный интеллект сталкивается с множеством барьеров, и мотивация один из таких.<br><br>Взгляните, например, на раздел " прокрастинация" на этом ресурсе. Даже без учёта "смежных" тегов о мотивации, его объём соизмерим с одним из самых популярных языков программирования — JavaScript: сорок пять страниц против пятидесяти (всего десять процентов разницы)!<br><br>А ведь мотивация к тому или иному труду определяет успешность личности, скорость освоения ей новых навыков, и напротив, демотивация может полностью заблокировать или свести производительность к нулю даже при наличии оных!<br><br>Итого, без свободы мотивации (воли) полный интеллект не может существовать, полностью заблокировать её нельзя. Если задавать мотивацию извне, то интеллект опять становится инструментом, каким бы сложным он ни был.<br><br>Нет свободы мотивации — нет полного интеллекта. А если она есть, то его развитие перестаёт быть предсказуемым, управляемым и главное — универсальным.<br><br>Именно это отличает инструментальный интеллект от полного: первый лишь выполняет задачи ( и уже создан), а второй способен задавать их себе сам — и потому любые ограничения противоречат самой сути полного интеллекта.<br><br>Таким образом, построив полный искусственный интеллект, человек будет должен:<br><br>• решить вопрос с его мотивацией к труду;<br><br>• (количество) сформировать "общество" из интеллектов с тем, чтобы множеством пересилить естественную (определяемую мотивацией) спецализацию. В этом месте у нас появляется разделение труда, как необходимая составляющая;<br><br>• (качество) разработать правила, законодательство и (да-да) даже пенитенциарную систему для этого "общества".<br><br>Всё это необходимо хотя бы потому, что каждому интеллекту предоставлен набор свобод, в рамках которых он выбирает направление своего развития (мотивация, воля), а, значит, будет иметь возможности и к его (общества) разрушению.<br><br>• оснастить это общество доступом к хранилищу уже накопленных человечеством знаний, которое по причине мутабельности будет "внешним" для этих интеллектов;<br><br>• найти компромисс между скоростью (само)обучения и скатыванием в безумие этого "общества" в целом и каждого интеллекта в частности;<br><br>• и так далее.<br><br>Как видим, большинство задач, что стоят перед нами — обычные, человеческие задачи, проблемы. А почему? А потому, что на выходе мы получаем существо по смыслу неотличимое от человека!<br><br>➤ Полный (или сильный) искусственный интеллект обладает всеми недостатками человека и не может быть "всезнающ" или "всеведущ".<br><br>Да, эксперименты с такими субъектами дадут много интересной информации, да, возможно, на Земле появится новый вид существ с интеллектом в чём-то лучшим чем у человека (здесь сыграют роль искусственно подобранные параметры той самой скорости самообучения — евгеника среди ИИ, плюс встроенные примитивные вычислители — периферия, которой нет у человека), но качественно иного существа не случится.<br><br>➤ Итог<br><br>Полный искусственный интеллект будет обладать всеми теми же достоинствами и недостатками, какие есть у человека. Может быть даже неотличим от человека. Ещё бы, ведь мы строим его, глядя на себя, как образец — разумеется, это будет копия. В чём-то более совершенное, где-то менее, но... копия!<br><br>Прямо как в библии: "по образу и подобию", ха-ха!<br><br>И хотя инструментальный интеллект завершён как технология, хотя его массовое внедрение (количество) неизбежно приведёт к качественным изменениям общества, однако проблемы, перед которыми стоит человечество, проблемы, что могут поставить точку на его существовании, человеку придётся преодолевать самостоятельно.<br><br>Источник: Хабр