Ольга Ф. Иващук, доктор философских наук, доцент
119571, Москва, проспект Вернадского, д. 82–84, строение 2
Olga F. Ivashchuk, Dr. of Sci. (Philosophy), associate professor
bldg. 2, bld. 82–84, Vernadsky Avenue, Moscow, 119571
Прогрессирующее внедрение ИИ во все технологии, посягающее на приоритет «естественного» человеческого мышления, снова делает актуальным вопрос: «Что значит мыслить?». Для прояснения отношения ИИ к человеческому проводится анализ 1) уязвимости ИИ, которая обнаруживает его вторичность – Model Autophagy Disorder (MAD – Р. Баранюк); 2) опыта обучения естественных и искусственных систем Г. Бейтсоном, обнаружившим в обучении ряд уровней, высший из которых выводит систему в противоречие или Double-bind (Db); 3) Загорского эксперимента. В статье продемонстрировано, что в нем были определены условия продуктивного и разрушительного сценариев Db. Продуктивный выход из противоречия обусловлен включением обучаемого (слабой стороны общения) во всеобщую общительность, признающую и оберегающую его субъективность. Db становится орудием слома естественного эгоизма живого и насаждения неэгоистических потребностей в качестве условий выживания. Так обучаемый становится мыслящим. Разрушительный выход обусловливается монополизацией могущества сильной стороной общения за счет слабой. Человеческий интеллект обоснован тем самым в качестве не-естественного, ИИ – в качестве его усеченной проекции. Но это высвечивает проблему, оставшуюся нерешенной в Загорском эксперименте, – определение условий, эффективно блокирующих монополизацию социального могущества, – орудием которой может, как любая машина, стать и ИИ.
The progressive introduction of AI into all technologies, encroaching on the priority of “natural” human thinking, again makes the question relevant: “What does it mean to think?”. To clarify the relationship of AI to the human, an analysis is made of 1) the vulnerability of AI, which reveals its secondary nature – Model Autophagy Disorder (MAD – R. Baranyuk); 2) the experience of training natural and artificial systems by G. Bateson, who discovered a number of levels in training, the highest of which brings the system into contradiction or Double-bind (Db); 3) the Zagorsk experiment. The article demonstrates that it defined the conditions for productive and destructive Db scenarios. A productive way out of the contradiction is conditional on the inclusion of the learner (the weaker side of communication) in universal sociability, which recognizes and protects his subjectivity. Db becomes an instrument for breaking the natural egoism of the living and implanting non-egoistic needs as conditions for survival. That’s how a learner becomes a thinker. The destructive outcome is determined by the monopolization of power by the stronger side of communication at the expense of the weaker one. Human intelligence is thus justified as unnatural, AI – as its truncated projection. But it highlights the issue that remained unsolved in the Zagorsk experiment: determining the conditions that effectively block the monopolization of social power, the tool of which, like any machine, can also be AI.
The authors declare that there are no conflicts of interest present.