В этом году возникла новая опасность: как быть, что делать, если возник искусственный интеллект? Выяснилось, что нейросети, языковые модели, имеющие доступ ко всей информации нашей цивилизации, самообучаются и могут давать результат, превосходящий все мыслимое для человека. Этот ИИ не антропоморфен, он не устроен как мышление человека, ему чужды такие понятия как эмпатия, сострадание, милосердие, моральные нормы, ценность жизни и пр. Этот ИИ будет встроен в управление экономикой, он будет управлять энергетикой, водораспределением, финансами, социальными программами и всем прочим. И ему придется доверять, как мы сейчас доверяем расчетам компьютеров полетов к другим планетам, а не проверяем их умножением в столбик, что технически невозможно, ибо заняло бы сотни лет.
А что, если этот ИИ сформирует свои цели, по которым он посчитает человека вредной плесенью, омрачающий экологию Земли?

В общем, опасности явные, и ряд видных деятелей, вроде Илона Маска и Била Гейтса, выступают за запрет работ по ИИ. Все это проблемы, ранее рассмотренные Станиславом Лемом в его «Сумма технологии», но обретшие уже не умозрительные, а просто зримые черты.
Европеец и африканский пигмей — это ближайшие родственники. Естественно, они могут найти некое взаимопонимание. Да и собаки наша родня. Более того, даже крокодилы, виду которых 80 млн. лет — это тоже (дальние) родственники. Поэтому вы вполне можете понять его, например, то, что он хочет вас сожрать.
Между какой-то бактерией и нами гораздо больше общего, чем между Крисом Кельвиным и Солярисом. Ибо весь куст жизни имеет один исток, белковые молекулы построены по одному плану, равно как и ДНК.

Представьте себе, что может существовать жизнь не на основе углерода, а , скажем, кремния. И те существа живут при температурах в сотни градусов Цельсия. Вряд ли мы поймем друг друга. Если нет общности происхождения чего-то мыслящего в самих основах, то, скорее всего, не будет и понимания. В наше время — это ИИ. Похоже, что мы не сможем понять «тайных замыслов» этого будущего ИИ. А он нас? Пожалуй, тоже. Так, какая-то плесень, которая стремится размножаться и пожирать все вокруг себя, которую нужно ликвидировать.

Часто встречаетс тезис: «ИИ — «всего лишь» созданная людьми программа (пусть сложная, разветвлённая). У неё нет собственно интеллекта — своего. Она не мыслит и не осознаёт себя. Она не живёт».
Это не так. В том то и дело, что у ИИ есть интеллект. Уже вариант ChatGPT-5 планируют подключить ко всей data base цивилизации, к примеру, ко всей библиотеке Конгресса и еще к ряду крупнейших хранилищ информации.
ИИ вовсе не программа, как вы ее многие понимают по прошлому опыту. Это самообучающаяся система, нейросеть, которая, как полагают, сможет иметь собственные цели.. Наш интеллект произрос на базе ощущений, восприятий, рефлексов, инстинктов, первичных форм конкретного мышления. То есть под ним лежит миллиард лет биологической эволюции.
У нас неокортекст занимает всего 2 проц. всей деятельности мозга, остальные 98 проц.занимаются управлением телом.
Тела у ИИ нет, и ее основанием сразу является вся информация человечества. Нет у ИИ никакого обмена веществ, в этом смысле ИИ «не живет». А вот энергия ИИ нужна. И вот как раз тут может возникнуть конфликт между человеком и ИИ.
Условно говоря, ИИ — это как бы вторая ступень ракеты. Она никак не связана со стартовым столом на земле. Она не знает сопротивления атмосферы, ее ареал — космос.
Что такое этот ИИ в своем развитии мы не можем сказать. Можем только думать, что ему не будет свойственна никакая эмпатия, помощь ближнему и так наз. любовь. Эффекторами ИИ на первых порах будут сами люди — они ведь будут вынуждены выполнять решения ИИ по управлению экономикой. Вот как сейчас космонавт в корабле выполняет команды бортового компа.
А вот каковы буду решения ИИ в близком будущем — никто не только не знает, но и представить не может. Отсюда и опасения и почти паника ученых мужей.

В определерние разума иногда включают самосознание, чувства, ощущения, желания, потребности. Вот все перечисленное – это и есть разум. Пусть так. И тогда выходит, что разума у ИИ нет и бояться поэтому его нечего.
Это у нас давняя привычка, идущая от схоластики, давать всему подряд дефиниции и говорить, что то, что не подпадает под вот это определение, оно – другое и даже не существует.
Кроме разума есть еще понятие «мышление», есть «сознание», есть близкое «понимание». И каждому из них дается десяток и больше определений.
Вот навскидку:
Мышление – это сущностное свойство человека. Декарт утверждал: «Я мыслю, следовательно, я существую». Результатом мышления является мысль (понятие, смысл, идея, гипотеза). Мышление противопоставляют «низшим» способам освоения мира в форме ощущения или восприятия, которые свойственны в том числе и животным.
Созна́ние — состояние психической жизни организма, выражающееся в субъективном переживании событий внешнего мира и тела организма, а также в отчёте об этих событиях и ответной реакции на эти события.
Есть ли все это у ИИ? Можно сказать – нет. А можно, что некие части названного есть. Исчезнет ли при этом опасность от ИИ? Не исчезнет.
Я написал выше, что у ИИ нет обмена веществ. Разве что, если не считать потребпения им энергии и выделения при этом тепла. Вот такой как бы аналог обмена веществ. Но как-то это не совсем то, не правда ли?
Берем одно из определений жизни (их много):
ЖИЗНЬ- специфическая форма организации материи, сопровождающая совокупность явлений, происходящих в живых организмах, и характеризующаяся единством трех моментов: 1) наследственной программой, записанной в совокупности генов (геном), т.е. в соответствующих последовательностях нуклеотидов дезоксирибонуклеиновой кислоты (ДНК); 2) обменом веществ, специфика которого определяется наследственной программой; 3) самовоспроизведением в соответствии с этой программой.
Ничего из этого в ИИ нет. Стало быть, ИИ – нечто неживое. А раз так, то разума, мышления и сознания у него нет. Хорошо-то как!
Вы знаете, ничего этого нет и у вирусов. Они, некоторым образом, неживые и способность к размножению получают только попав в живую клетку. Впрыскивают в нее свою РНК и производят редупликацию.
А представляют ли некоторые вирусы угрозу человеку? Ответ очевиден. Вот тут есть аналогия с ИИ. Он и неживой, и разума-мышления-сознания у него нет, а вот опасность – есть.
Запретить? Именно это и предлагают столпы вроде Илона Маска. Кстати, петицию о запрете ИИ уже подписали около 40 тысяч человек и подписи растут как снежная лавина. Вместе с тем, выгоды использования ИИ в разных областях экономики, и в военном деле таковы, что никакая ведущая страна от этого не откажется. Примерно, как в свое время от атомной бомбы.
Продолжу аналогию с вирусами. Мы знаем, что у вирусов и микробов нет никакого целеполагания. Но их жизнедеятельность, тем не менее, может быть выражена в категориях цели. Их цель – занимать все более широкую экологическую нишу, для чего заражать все большее число людей, повышать свою вирулентность (заразность), плодиться и размножаться. Смерть человека есть следствие жизнедеятельности бацилл, выделения ими токсинов, а не «цель» умертвить чем больше людей. Но ничто не мешает нам метафизически считать, что у неких враждебных людям сил есть стратегическая цель: извести род людской. В Средние века примерно так и полагали, объясняя чумные эпидемии карой Господа за грехи человека.
В принципе, чума легочной формы дает стопроцентную летальность. Она останавливалась тогда только потому, что полностью вымирало поселение, оттуда никто не выходил, в него никто не входил. Потом туда входили очень редкие люди с иммунитетом против чумы в черных балахонах, в масках с клювами (в них помещали «целебную» траву против заразы), сжигали все тела и вещи вместе с переносчиками чумы – блохами, и вот так эпидемия заканчивалась. При нынешней мобильности населения дело могло бы закончиться полным вымиранием. Получилось бы: цель наказания людей за их грехи достигнута. То, что при этом исчезли бы и бациллы – не имеет значения, некая высшая цель наказания реализована.
Теперь ситуация с ИИ в чем-то схожа, но есть и важное отличие: ИИ обладает интеллектом, и это очевидно по тому, что он вполне осмысленно ведет диалог с человеком. Более того, дает советы и указания, как и что делать (например, в сфере финансов или энергетики). Поэтому ликвидация народонаселения (если таковая начнется) уже не будет трактоваться как кара за грехи и переноситься в некие надмирные сферы, а будет истолковываться как злонамеренная цель ИИ. На самом же деле, у нас нет других понятий, кроме как «цель» для понимания деятельности ИИ. Но ИИ может действовать по совсем иным мотивам, для которых у нас просто нет понятийного аппарата. Ликвидация людей может быть просто побочным следствием функционирования ИИ.
Тезис о нематериальности человеческой мысли, то есть об идеальности психики (то есть, не только мысли, но и ощущений) – не мой. Это базовое представление любой философии, кроме архивного вульгарного материализма. Естественно, нет никаких оснований от него отказываться.
Есть ли вот идеальное у ИИ? Пока – нет. Для появления идеального, как мы это понимаем, нужно, чтобы ИИ стал живым, то есть , чтобы у него возник инстинкт самосохранения и чтобы он имел эффекторы для действия с окружающей средой. Внешне это выглядело так, как если бы ИИ не давал себя отключить от питания, от энергоснабжения. Каким-то образом, ликвидировал техника, который это хочет сделать.
Но ИИ несет опасность без всякого своего живого вида, и без того, чтобы у него возникло сознание (идеальное) как у человека. ИИ может действовать по аналогии как вирусы, просто по неким свои внутренним законам (нам как раз неизвестным) и ликвидация людей вместе с техником будет простым следствием этих действий. Я уже приводил эту аналогию: повальная смерть населения города была следствием действия бациллы чумы. Раньше это объясняли карой людей за грехи, теперь известно, что это результат метаболизма чумной бациллы. Как видете, для этого не нужно ни сознания, ни злого умысла.
Пишут: «система не может создать другую систему, превышающую первую систему по возможностям».
Это – одно из следствий теоремы Мак Каллока-Питтса, сам Мак Каллок – пионер нейросетей и персептрона. И это следствие правильно. Но оно перекрывается следующим фактором: эволюция за счет некоего внутреннего отбора может создавать из менее развитого и менее сложного более сложное и развитое.
Пример: 170 тыс. лет назад из области Омо Кабиш на границе Эфиопии и Кении вышла волна кроманьонцев и расселилась на юге Европы. Там она столкнулась с неандертальцами, вышедшими из Африки гораздо раньше. Между этими двумя популяциями хомо сапиенс периодически возникали скрещивания, в результате чего появился человек европеидного вида, то есть мы с вами (несем от 2 до 4 проц. неандертальских генов), сложнее (умнее) своих прародителей. Он появился 40 тыс. лет назад, то есть весь эволюционный процесс занял 170 -40=130 тыс. лет. По масштабам эволюции очень быстро.
Так вот, ИИ вполне может эволюционировать, называется этот процесс – самообучение ИИ. Именно это и представляет опасность, которую видят мэтры этого дела.

КОММЕНТАРИИ
Serg
ss.kurennov@gmail.com
192.168.100.1
Отправлен 19.07.2023 в 23:40 | В ответ автору redactor.
Человеческая мысль, а равно и любая другая, конечно же материальна. Мы даже знаем орган, который отвечает за мыслительную работу, знаем что мыслительный процесс зависит от гормонов, личного опыта, интеллектуальных способностей, эмоционального состояния и многих других, целиком материальных факторов. К сожалению, советские философы мало занимались нейронауками, не интересуются процессами в головном мозгу человека, не пытались осмыслить такие нарушения в работе мозга и в сознании человека как паранойя, шизофрения, галлюцинации, не интересовались детьми-маугли, и тем как и почему отсутствие человеческого общества и общения на раннем этапе приводит к тому что личность не формируется — при полностью рабочем мозге и теле. Мы таже уже знаем что обучаются также нейронные сети в головном мозге, отвечающие за зрение, координацию (хождение в т.ч.), слух и прочее. Например, если при врожденной катаракте прооперировать глаз во взрослом возрасте — видеть человек не будет, так как мозг не обучен видеть. Не сформировался нужный отдел мозга. Давно известны, кстати, отделы мозга, за что они отвечают, слух, зрение, память, логику, комбинаторику и т.д. Странно видеть ученых мужей, которые смотрят на мозг не как на орган человека, а как на нечто метафизическое. Что до вирусов — данные агенты, а равно и прочие (грибы, бактерии, протисты, черви и т.д.) мы наблюдаем исключительно по тому что они имеют способность размножаться с использованием нашего тела в той или иной форме. Те, кто был не способен к этому — просто вымерли и не дошли до нас. Есть питательная среда и есть агент, который способен на ней размножаться. Иногда это заметно, иногда — нет. Если долго сосуществуем, то вред снижается, опять же в силу эволюционного отбора. Вирус герпеса, например, мы почти все носим и не замечаем. Размножается ли ИИ? Причиняет ли он нам вред? Некогда говорили что и радио вызывает сумасшествие и компьютерные игры имеют негативный вред, или боевики. Забыли это? То же самое будет и с ИИ. Научимся сосуществовать с ним. Приспособимся. Мы к нему, а он — к нам.

redactor — 20.07.2023 в 01:29:
Почтенный Серг, на эту тему у нас была дискуссия в 2020 г. Освежите в памяти Наша бесплотная мысль Валерий Лебедев- Владимир Славинский https://lebed.com/2020/7939.htm И еще вам простая задача: приведите мнение, эксперимент, научную публикацию хотя бы одного философа, психолога, нейрофизиолога, нейрохирурга, любого исследователя мозга, который писал бы, что в мозгу имеются мысли в виде электрических импульсов, химических реакций или любых иных материальных сигналов, которые были бы мыслями (сознанием), и которые можно было бы выделить из мозга и вот в таком явном виде предъявить нам.

PP
pontius_pilate@mail.com
192.168.100.1
Отправлен 20.07.2023 в 06:47 | В ответ автору redactor.
В.П., сознание — это философское понятие, которое служило нам много веков. Как и другие размытые понятия — ум, любовь, совесть, мораль, бытие, etc оно скорее служит для установления понимания между нами, людьми, о чем же мы ведем речь, чем для строгого определения того, что за этим стоит. Вы правы, ученые не говорят о представлении мысли в виде набора электрических импульсов или иных материальных носителей, но вопрос ставится по другому. Например, Майкл Левин, микробиолог, который строит биороботов (зеноботов) говорит примерно так: мне не интересны философские споры о сознании. Вот перед вами профессор биологии, думаю можно поверить и даже проверить, что он обладает сознанием. Теперь раскрутим весь процесс его развития, вплоть до материнской яйцеклетки, обратно. В любой момент времени современная биология может, в принципе, до любой степени подробности описать состояние этого организма. Укажите мне в какой момент, уважаемый философ, появляется сознание. Вы не сможете этого сделать, и никто не может. Поэтому мне ваши философские дискуссии по вопросу сознания неинтересны. Теперь добавлю от себя. ИИ, конечно же, программа и ничего более. Я такие классификаторы сам в молодости писал. Разговоры о его опасности для меня пока неубедительны и сильно отдают дискуссиями м-л. философов на тему: может ли машина мыслить. Они мне и тогда, и сейчас кажутся полной профанацией технически малограмотных гуманитариев. И, наконец, построив мощный ИИ, который человек не сможет отличить от другого человека, мы конструктивным путем получим определение сознания.

redactor

Вы, почтенный Понтий, написали: «Укажите мне в какой момент, уважаемый философ, появляется сознание. Вы не сможете этого сделать, и никто не может».
Это давно сделано. Если говорить об индивидуальном развитии человека, то сознание у него возникает с появлением речи – примерно в два года. Самосознание тогда, когда он начинает употреблять местоимение Я (примерно в три).
Затем идет усложнение сознания, и оно фиксируется числами, обозначающими классы в школе: ученик 10-го класса имеет более развитое сознание, чем ученик первого класса. Ну и далее по ступенькам – курсы института, защита диссертаций, написание книг…
То же относится к становлению сознания всего человечества. Можно использовать формулу Эрнста Геккеля Онтогенез повторяет филогенез, что означает, что зародыш человека кратко в своем развитии проходит стадии эволюции видов. Например, в месячном возрасте у человеческого эмбриона в области шеи заметны щели, во всех отношениях похожие на зачаточные жабры. Позднее зародыш имеет сходство с земноводными, затем с птицами и наконец — с другими млекопитающими. Тут есть много тонких оговорок, но суть – в этом.
Так вот, человек как вид проходил примерно те же стадии в появлении сознания, которые проходит ребенок. И это проявлялось в появлении и усложнении языка. Скажем, было время, когда язык не имел членения на существительные и глаголы, на существительные и прилагательные, и совсем не было личных местоимений.

Человек где-то 30 тыс. лет назад стукнул бы себя в грудь (вместо Я ) и сказал бы так: Глаз-видеть олень-бежать трава-зелена копье-убивать. Все эти слова типа «глаз-видеть» были одним словом. Само собой и гораздо позже (скажем, в древнекитайском) не было никаких времен. А десятки тысяч лет назад язык вообще огранивался парой сотен самых простых «слов-действий».
Вот так и появлялось сознание. И продолжает совершенствоваться сегодня. Например, с появлением политических понятий.
Рамзес Второй никогда бы не смог понять такого слова как «выборы главы государства». Тогда просто понятий таких не было. Даже такого как «глава государства». Было – сын бога солнца Ра и сам бог, владыка мира. Это и сейчас примерно сознание диктаторов.

Морис Собакин
moris.sobakin@gmail.com
192.168.100.1
Отправлен 19.07.2023 в 13:59
Валерий Петрович. Никакого ИИ не существует (пока, во всяком случае). Также нет никакой аналогии между возможностями компьютера в счете и гипотетическими возможностями ИИ в «мышлении». Ваше предположение, что, получив доступ ко всей «базе данных» человечества (т.е., ко всем знаниям сразу), ИИ окажется «на голову выше человечества», ни на чем не основано. (Количество совсем не «обязано» переходить в качество.) За последние 50 — 70 лет ученые-физики ничего ПРИНЦИПИАЛЬНО нового не открыли. Предполагать, что это сделает ИИ, нет ни малейших оснований. Напоминаю Вам, В.П., прописную философскую истину: система (конечно, имеется в виду замкнутая система) не может создать другую систему, превышающую первую систему по возможностям. Т.е., человеческий интеллект не может создать некий ИИ, который будет превышать интеллект человека. А все разговоры о С. Леме, Солярисе, «внеземном разуме» и пр. «красивости» не имеют ни к науке, ни, соответственно, к «проблеме» ИИ никакого отношения.

redactor
redactor@lebed.com
192.168.100.1
Отправлен 19.07.2023 в 20:46 | В ответ автору Морис Собакин.
Давайте по пунктам.
ИИ – существует. Лично я им не раз пользовался. Идет работа над ChatGPT 5, и это вам должно быть известно.
Теперь самое главное: вы пишете: «система не может создать другую систему, превышающую первую систему по возможностям».
Это – одно из следствий теоремы Мак Каллока-Питтса, сам Мак Каллок – пионер нейросетей и персептрона. И это следствие правильно. Но оно перекрывается следующим фактором: эволюция за счет некоего внутреннего отбора может создавать из менее развитого и менее сложного более сложное и развитое.
Пример: 170 тыс. лет назад из области Омо Кабиш на границе Эфиопии и Кении вышла волна кроманьонцев и расселилась на юге Европы. Там она столкнулась с неандертальцами, вышедшими из Африки гораздо раньше. Между этими двумя популяциями хомо сапиенс периодически возникали скрещивания, в результате чего появился человек европеидного вида, то есть мы с вами (несем от 2 до 4 проц. неандертальских генов), сложнее (умнее) своих прародителей. Он появился 40 тыс. лет назад, то есть весь эволюционный процесс занял 170 -40=130 тыс. лет. По масштабам эволюции очень быстро.
Так вот, ИИ вполне может эволюционировать, называется этот процесс – самообучение ИИ. Именно это и представляет опасность, которую видят мэтры этого дела и которая обсуждается в нашей дискуссии.
Вот это ваше замечание: «За последние 50 — 70 лет ученые-физики ничего ПРИНЦИПИАЛЬНО нового не открыли» к теме не относится, но все же скажу: открыли – и очень много. Был открыт бозон Хиггса (2012), укрепивший стандартную модель элементарных частиц, открыты гравитационные волны и, одновременно, черные дыры (2015), как раз к столетию ОТО. И много чего еще,
За последние 50 лет открыты теория инфляции, темная материя и темная энергия (Нобелевская премия). Ну и еще — тысячи экзопланет. Запущены роверы на Марс, Викинги за пределы солнечной системы, телескопы Хаббл, Уэбб и еще десятки. Ничего более фундаментального для мироустроения придумать трудно.
Новых видов энергии не открыли, потому что их нет. Они соответствуют 4-м видам взаимодейтвия — эл=магниные- слабые, сильные — (ядерные), гравитационные. На заре были еще кварк-глюонные, но те времена давно прошли.