В обзорной статье по перспективам ИИ нам пишут:
"Важный урок, который мы получили в рамках третьей волны ИИ и который можно озвучить уже сейчас, — важно не только создавать более умные машины, но и создавать более умные организации. И для этого нам нужно понять, что интеллект — это не просто то, что возникает в отдельных мозгах или отдельных компьютерах, он также возникает в объединениях людей или объединениях людей и компьютеров."
Здесь важна терминология и понимание действий. которые ею обозначаются. Термин "интеллект" применим, и это особенно видно на машинном или искусственном интеллекте, к действиям с конкретными данными, уже принятой, обработанной и обозначенной в символах реальностью, которая может использоваться для обучения, - суждения, наглядные пособия, законы, формулы, концепции и пр.
Соответственно "интеллект" занимается решением задач в уже освоенной и описанной реальности, причем описанной уже сложившимися инструментами, - языком, логикой. математикой. Фактически эту часть Знания можно принять как "школьную" картину мира. уже зафиксированную в текстах, учебниках, - "схоластику".
Большой вопрос, какие "новые знания" можно получить, используя те же самые данные, даже применяя технологии Больших Данных (а они куда-то делись из поля общего внимания, замещенные ажиотажем вокруг ИИ).
Наука, как социальная практика, занимается в первую очередь моделированием неких процессов и постоянно проверяет модели на соответствие фактическим наблюдательным и экспериментальным данным. Сами нейросети (ИИ) не ведут таких действий. Даже когда ИИ занимается наблюдением, в случае работы автопилотом, он не занимается моделированием неведомого и проверкой его, сравнением с фактически полученными сигналами, он сравнивает полученные сигналы от взаимодействия с реальными объектами среды с базой данных сигналов (сигнатур) на которой он обучен производить действия.
Точно такие же автоматизмы работают и в теле живого водителя, который отличается от машины другой скоростью реакции. восприятия и пр.
Уже есть примеры, когда автопилот просто игнорировал сигналы реальности (инциденты с Тесла), причем, живой водитель может делать это осознанно, выключая свой "машинный код". сознательно нарушая правила движения или принимая необычное решение в критической ситуации, а ИИ вряд-ли может научиться такому "опережающему отображению".
Ещё одна опасность - обучение ИИ на вредном или деструктивном коде, частично или полностью сфальсифицированных данных, и это даже не разные концепции мировоззрения, а именно неверные, ложные данные, которые при применении такого ИИ в разработке новых химических соединений будут создавать химерический продукт.
Ну и самое основное. "Интеллект"не образуется "сам по себе" в объединениях людей и людей и ПК. Многочисленные связи с Сетью, реакция на их существование, заставляют людей адаптироваться к новой среде коммуникаций, создавать новые. собственные машинальные действия. Но у компьютерных сетей. даже нейросетей нет необходимость к такой адаптации и нет возможности самостоятельно менять физический "носитель" "интеллекта" - свой "мозг", создавая новый слой "серого вещества" или новую конфигурацию нейронов за счет изменения химического состава их питания...
У Рэя Брэдбери есть известный рассказ "Будет ласковый дождь" где он показывает участь ИИ (в рассказе это "умный дом") оставшегося без людей, сам с собой наедине (там ещё и живой ИИ - собака, как триггер катастрофы).
Так что пузырь ИИ несомненно лопнет и "зима ИИ" наступит, возможно и не резко катастрофично, это несомненно. и то, что люди будут продолжать лепить "рабов для мышления", как это сделали с механическим трудом, тоже понятно.
Рэй Брэдбери трижды переносил время действия своего рассказа, крайний срок исполнения 2062, надо постараться дожить. Несмотря на пузыри и пирамиды...