Мечтают ли андроиды об электросвободе? | Максим Мирошниченко

ну что ж моя сегодняшняя лекция называется мечтают ли андроиды об электро свободе и такое несколько провокативные название но тем не менее мне кажется она хорошо затрагивает все те многочисленные общем то вещи которые релевантны и вот для этой все проблемы я попытаюсь сегодня очень пунктирно обозначить какие-то важные вещи о которых тоже будет идти речь в ходе курса но конечно более подробно и более детализировано но сегодня я остановлюсь на нескольких аспектах который на мой взгляд являются важными для философской и для культурологической слугой оценки этого явления ну собственно говорят что характерно для современного разговора по поводу искусно интелекта во первых очень большой hyip и очень большие надежды до которые касаются последних разработок связанных с машинным обучением из автоматизации возможно некоторых функций человека некоторых человеческих способностей и вот на этом слайде представлены некоторые исследования некоторые события которые очень хорошо резюмирует такого рода процесса во первых согласно оценкам экспертов одной из аналитических институций в ближайшие 15 лет искусство интеллект вытеснит 40 процентов рабочих мест это связано с тем что и по распространенному мнению способен автоматизировать упрощать исполнение некоторых простых рутинных задач которые касаются собственного каких-то несложных когнитивных процессов и которые будут его можно полностью при поручить машину что конечно означает в ближайшем будущем очень сильные изменения в грунте труда и собственно в некоторых социальных аспектах собственно сама позиционирования человека то есть это будет влиять иметь сильное влияние на наше социальное развитие и на рынок труда согласно недавнему исследованию которое провел один из статистических центров в россии россия не очень хорошо относится к роботам искусственно интеллекту особенно в том что касается управления юридических функций то есть право применения управления государством и тому подобные вещи по мнению россиян нужно обязательно при поручить роботом и искусственному интеллекту при этом причины конечно тут могут быть разными дай может не доверие к институтам и может надежда на то что роботы невозможно будет подкупить да и он будет беспристрастно в принятии решений в общем вне зависимости от того что побудило людей отвечать в этом исследовании таким образом тем не менее факт состоит в том что россия не очень положительно и очень тени стич на относится к внедрению такого рода технологий еще пара новостей это то что вот индекса ртс телеком недавно подписали код кодекс этики искусством интеллекта который согласуется с некоторыми нормативными распоряжениями которые функционируют в рамках российской федерации которые касаются трендов на цифровизация и мы знаем что россия опережают очень многие страны по темпам цифровизация автоматизации каких-то функций внедрения всяких умных решений и так далее тому подобное вот собственно интересно то что вот крупная компания вместе крупной компании принимают какие-то согласованные большие этические кодексы которые регламентируют использование искусственных лек то чтобы это было более критично до более безопасное для пользователей так далее и конечно помимо этого стоит упомянуть повсеместное использование технологии в науке в технологиях медицине в управления экономики что само по себе в общем-то уже не новость потому что мы привыкли к тому что нейросети уже выполняют многие задачи лучше чем и но тем не менее это заслуживает все-таки некоторой критической оценки которая предполагает некую критическую дистанцию который собственно может обеспечить именно гуманитарной гуманитарный взгляд на эту всю проблематику почему потому что очень часто сами разработчики сами сторонники и как бы создатели этих технологий не удерживают критическую дистанцию по отношению к тому что они собственного реагируют и это очень часто приводит к очень странным оптимистичным прогнозам который часто пренебрегают некоторыми скрытыми негативными и как в как минимум политически нейтральными аспектами этой самой технологии и дальше я попытаюсь раскрыть в чем именно состоит это неоднозначности это проблематичность сегодня я на самом деле за трон только некоторые вопросы да и эти вопросы частично собственного раскрывает то что будет в рамках нашего курса но на курсе я буду рассматривать более глубоко и мы рассмотрим это на в большем количестве кейсов и с большей степени детализации но сегодня я пытаюсь сосредоточиться на таких вопрос во первых что же такое собственного искусственный интеллект причем его искусственность да почему вообще говорим о различии между естественными слег там и искусственным интеллектом второе это вопрос о том способен ли искусству интеллект думать способен ли он к мышлению до или же мы можем говорить скорее а некоторые приближений когда способность думать мысли принимать решения говорить да и быть субъектом как в каком-либо смысле и

третье это вопрос о том будет ли собственное восстание машин до такой вопрос который преследуют всю массовую культуру на протяжении значительной части 20 и собственно 21 век тоже но понятно что ответ не столь однозначен хотя и озвучиваете спойлер что все-таки скорее всего восстание машин не будет и сегодня я расскажу в том числе и о причинах того почему собственно и это досадный вывод как раз является наиболее реалистичной собственного если ты и вопроса взаимосвязаны потому что как мне кажется определение искусственности искусственный select накладывает границы тому насколько он способен думать насколько он способен к мышлению и в свою очередь позволяет нам ответить на вопрос о том будет ли все-таки какой-либо межвидовой конфликт между людьми и не лисий между людьми и роботы искусственным интеллектом и немножко предыстории до которые касаются вот этого понятия в принципе можно конечно датировать при появлении искусственно интеллекта неким к конкретным историческим событиям а именно конференции в дартмуте когда было собственное виде но это понятие и обсуждались возможные определения того в каком смысле машина способна мыслить и насколько вообще реализуемой инженерно техническая задача создание некоего искусственного мыслящего агента но вообще среди философов есть такое мнение которое на самом деле только недавно брюло какой-то скажем так концептуальную поддержку и аргументы а именно идея о том что вообще проект искусство интеллекта он возник в философии и возник на самом деле достаточно давно если вообще посмотреть на то как философ представляют себе рациональность до умение строго логично рассуждать в понятиях которые не замутнен и эмоциями до которые не звуки иной конечностью человеческой жизни потому что мы все когда-нибудь умрем и тому подобными вещами философия в принципе она как бы уже представлял себе разум как нечто искусственное для философии для древнегреческой философии например интеллект это именно умение мыслить абстрактно мысль абстрактными понятиями которые лишены того наполнение который вкладывает люди в это социальное понятие и в этом смысле философию идеалом рациональности который свободно от тела до свободы от смерти от эмоции сексуальности и так далее этот идеал он уже как бы предвосхищает вот это дело искусственный интеллект и который мыслит точно который мыслит рационально и конечно здесь предполагается несколько определений до которые касаются природу мышление как сказать большинстве и удивительным образом эти определения они синхронно этим определениям с которых исходит инженеры-программисты представители компьютерные науки и так далее когда они говорят об искусственном интеллекте и потому что во первых мышления по ним понимается под этими философами и этими разработчиками как некое манипулирование знаками согласно формальным правилам и это определение можно найти не только собственно говоря выкладка когнитивных психологов например которые являются сторонниками так называемого символического искусством интеллекта это одна из устаревших на сегодняшний день архитектуры но такое же определение можно встретить например у gapps и лейбница таких классических философов и лейбниц в этом смысле это тоже такой какой день святой покровитель искусственно интеллект и кибернетики потому что он предлагал с января вот эту идею что нам нужно раза вот и точный формальный язык который оперирует логика математические принципами который нам позволит мысли точные конечно так точно смогут мысли только машина они люди первое определение до касается того что мышление такое абстрактное манипулирование знаками согласно строгим заранее определенных формальных правил второе определение которое так нравится вел спам это определение которое касается того кто вообще мысли в моей голове да кто является субъектом мышления субъекта мышления с точки зрения некоторых философ классических является такой маленький внутрений оператор назвал его философ искусно интелекта джон хогланд когда говорил о философии иммануила канта в одной из наиболее влиятельных классических философские концепции в центре вообще всей экспозиции был вот этот маленький внутрений оператор который имел вид такого абстрактный во гомункулуса к прожил в голове каждого человека при этом это гомункул является чем-то обезличенным до лишенным персоны но это вот такой абстрактный манипулятор символами который в общем то думает за меня если и то что присущему никак индивидуальном психологическом субъекту не так важно как то что определяет меня в качестве субъекта мысль то есть этот субъект мысли это не человеческий

субъект а вот некая сущность который живет во мне и мыслить и артикулировать себя через мои через мою жизнь и собственно и вся последующая философия и психология пыталась локализовать этого маленького гомункулуса и конечно философии канта таким гомункул сам стал трансцендентальный субъект до такой обезличенный аппарат мышления в современных философия им стал собственный искусственный интеллект с такой идеальной субъект мыслей и более того это аналогия на усиливалось еще и тем что исторически разные мыслители и философы ученые и инженеры они апеллировали к тем объясняю как работает человеческий разум технологиям которые были доступны в их историческую эпоху например лейбниц апеллировал к часовому механизму и для него разум был такой же механической структуры как и самый точный часовой механизм который никогда не ошибается и которые всегда работает согласно строгому набору правил 20 веке это была идея компьютера да и некоторые метафоры искренне тивные науки очень устойчиво метафора они собственно я тоже а берутся из тех технологий которые были доступны тогда в пятидесятые годы или идея человека машины до которая была очень популярна в эпоху механистического материализма когда тоже некие аппараты были вдохновителями потому чтобы объяснять человека через эти принципы но в этом смысле важно то что в двадцатом веке консистенции такого рода взглядов на человека как на некий придаток к этой механической авто автоматически осуществляемым способности мыслить то есть оперировать формальными знаками которые сами по себе лишены смысла и смысл возникает только из некоторого динамического взаимодействия этого оперирующего знаками аппараты с внешним окружением с другими ему подобными аппаратами квинтэссенция этого взгляда является кибернетика такая очень странная наука на самом деле она тоже и нравилось и не нравилось философом потому что вот мартин хайдеггер очень важные философ 20 говорил о том что кибернетика это метафизика атомной эпохи на самом деле он конечно не прав потому что кибернетики как единого образования не было это много разных но вот если как-то философские резюмирует что же такое кибернетик это можно посмотреть на определение из книжки норберта винера собственно создатели этой науки и там можно найти определение кибернетики как науки о коммуникации управления в самых разнообразных систем и этими системами могли быть человек животное машина и так далее очень много разных и это такая философская доктрина которая пыталась тоже найти какие-то общие к общее структуры которые определяют самые разные машины как машина способных действию к мышлению приняли решение которой вписывал быть систему в некоторых единый контур формального объяснения в контур система обратной связи скажем то есть некоторые динамического обмена системой со средой и интересно то что в рамках кибернетики не ставился вот вопреки распространенному представлению вопрос о том могут ли машина мыслить вообще не ставился для кибернетиков это было совершенно очевидно мыслящие машины уже существует и ты мыслишь машина является человек исследовательской задачи для кибернетиков style о том как нам во первых описать человека как мыслящую машину то есть используют эти имеющиеся кибернетические понятия из другой стороны как нам создать машину которое будет похоже на человека и как следствие будет собственно и мыслить и будет организована также как организован и мыслит человек что конечно предполагает определенную такую очень странную работу с метафоры с одной стороны мы определяем человека как машина и после этого мы пытаемся создать машину который будет как человек и это конечно не понравилось очень многих философов 21 веке на 21 веке это вызывает очень большим энтузиазмом многих философов например ну какой-нибудь рязани береста не который сейчас очень моден и влиятельным у него весь его философски проект в общем-то построена эта аналогия между человеком и машиной и машины и человека то есть такой очень специфический интересный ход другим контекстом является собственно говоря когнитивная наука да такое направление очень влиятельная которое возникло в 50-е годы и которые по мнению некоторых историков является тоже такими ответвлением кибернетики хотя сами нейроучёные это всячески отрицают не верю что нет это наследует некую очень почтенную традицию в нейрофизиологии и так далее но тем не менее если посмотреть на исторические исследования то можно там встретить тезисы о том что такое мнительная наука она возникла из кибернетики из применение кибернетических понять их мозг и понятно что базовая метафора для как интере стики это метафора потому что мозг это компьютер мозг это некое

вычислительное устройство которое починать той же целесообразность что и технические объекты да и в этом смысле нам нужно переписать мозг как некий аппарат обработки информации и тоже работает согласно определенную формализуем правил и вот всевозможные разработки начиная от самых простых компьютерных ракете архитектура заканчивая машин глубокий машинным обучением и так далее все это построено вот на этой метафоре который сама по себе скорее интуиция да она очень неточно и потому что мозг это не цифровое вычислительные устройства все таки да но тем не менее она оказалась очень баллистический полезным для развития науки для разработки множество различных технических объектов и для когнитивной науке специфическая философская позиция которым можно очень на самом деле очень обобщая до назвать функционализм национализм это такая доктрина которая считает что одно и то же примитивное не ментальное состояние можно воспроизводить воспроизвести на разных носителей что это значит это означает во первых что когнитивная состоянии способность мыслить до является функциональным состоянием некоторой системы а коль скоро оно является состоянием системы то это уже предполагает что его можно воспроизвести не только на том от материального носителя на котором она собственно фактически установлен то есть мы можем воспроизвести способность мыслить или воспринимать на разных носителях не только на белковые до форме не только в рамках белковых форм жизни ну и в рамках углеродный или на облаках компьютера не или на различных искусственных экзо кортекса или может быть даже в умной на пыль и все эти все сценарии которую можно встретить в произведениях писателей фантастов и которые вообще диктует очень многие идеи которые можно встретить в научно-фантастических кино и сериалах там какой-то нетфликсе очень часто встречается это представление что сознание да и способность мыслить можно воспроизводить на разных носителях и свободно переустанавливать его на самых разнообразных субстратов и как следствие конечно отсюда берется идея что интеллект можно воссоздать искусственно и для когнитивной науке это было тоже некоторые общепринятые стены что конечно при предполагала каписа как писали некоторые философ направила которые были настроены против когнитивной науке когнитивной психологии что как бы эти теоретические модели интеллекта они писались уже изначально так чтобы можно было воспроизвести на некоторым искусство носитель у вас поставить на компьютер да что объяснение того как мысли человека на уже писалось на языке как и можно эмулировать на компьютере если это все как то место несколько грубо обобщить с этим связаны надежде вокруг таких проект проектов как пыль и брайан project или he-man brain project то есть проектов которые пытаются нейрон за нейронам воссоздать модель человеческого мозга и с этим связаны конечно надежды на то что эта модель мозга будет такой же умный как и настоящий человеческий мозг что дескать когда мы построим полную достаточно детализированную виртуальную модель существу мозга то она обретет сознание мы получим настоящее искусство интеллект то есть настоящая искусственное сознание который будет осознавать себя ощущать себя и так далее с этим конечно связаны определенные апокалиптические страхи которые тоже сами по себе заслуживают некоторые культурологического анализа сегодня если переходить уже к тем недавнем технологиям которые можем наблюдать мы можем говорить о так называемом машинном обучении такая очень большая паразитная которое на самом деле возникнуть достаточно давно потому что сама идея машину обучение основано на представлении нейронных искусственных нейронных сетях основываю для этой идеи зала жилище в самом конце сороковых годов два исследователя это mako la капец один из них был нейрофизиологом тары математикой не они собственно представили метафор он скажем так научную мозга как некоторые распределенные сети узлы в которые объединены друг с другом логическими связями да и на этой основе они пытались моделировать некоторые простые когнитивные процессы и несмотря на критику с которые к этой идее отнеслись к мите тогдашние кибернетики и тогдашний психологи тем не менее вот эта идея она общем то приобрела некоторую реабилитацию 2010 начиная с 2012 года когда впервые появились на архитектуру глубокого шина обучения это становится все более и более популярным и на сегодня на самом деле тут искусственно интеллекта который мы говорим это искусственно селектор основные на машинном обучении и на самом деле бог можно очень сильно упрощаем модель машинное обучение представить это так что у нас есть некий алгоритм да ему дается определенное определенный массив данных когда

называется тренировочными данными на этих 30 тренировочных данных он учится распознавать определенной паттерн и закономерности на определенной стадии то что статистически встречается чаще всего грубо говоря и на этих тренировок тренировочных дан он учится распознавать ники искомый закономерности и потом делает выполняет эту задачу уже самостоятельно по заданию да на тех данных которые ему уже представляют то есть это выглядит так что машина другая учиться познавать паттерна на тех данных которые вскармливаются каком-то очень обобщенно ведь и на самом деле у этого есть еще много успешных применений над одним из наиболее успешных является применение в медицине когда нейросети распознают на различных изображениях или на анализе истории болезни пациентов паттерны закономерности которые уже не можете видеть врач стоит опытным он не был например применение в онкологии показывает что не растёте намного успешнее распознают меланома чем это делают люди проще потому что она работает с гигантскими массивами данных учиться на таких объемах которые индивидуально человеку что не способен обработать просто все потому что его правда прожит продолжительность жизни весьма ограничен но несмотря на то что действительно это все очень успешно и классно что это все применяется и применяется с большой надежды на то что это как-то сильно меняет нашу медицину и вообще наши экономические может быть какие-то модели и психологию и так далее здесь возникает вопрос а в каком смысле машинное обучение чему-либо учиться да умеет ли научная чему-либо не растить мысли в том смысле в котором мы привыкли об этом думать то есть умеет ли она принимать решения и все знали она видеть то что она будет и выведет когда определяет какие-либо закономерности или кстати все корреляции да и на самом деле если посмотреть на и на историков вопроса и на теоретика которая направлена на сына на поле философский разбор этой все проблемы на самом деле нейросети имитирует не столько мышления сколько восприятия и на самом деле у этого есть очень почтенная это же очень давняя история потому что всякие искусственные системы которые способны имитировать человеческое восприятие они были еще в 50-60 е годы какой-нибудь персептрон устройство которое было разработано фрэнка возникла там который был построен на сравнительно простых принципов же он имитировал визуальное восприятие человек конечно очень простом смысле не так круто как это делать не россии сегодня но в принципе вот у этого всего есть определенно предыстория да и предыстория является то что не россияне не столько мыслят сколько воспринимаем и моделирует отдельные способность человеческого восприятия более того вот страшная тайна я машину обучения стоит то что они умеют распознавать только то что их научили распознавать они распознают что-то радикально новое и в этом смысле многие теоретики говорят о том что машинное обучение она как бы устанавливать диктат прошлого диктат того что уже было увидеть на распознано и выучила в этом смысле машинное обучение не способно привнести что-то радикально новое не способны опознать событие которое было бы аномальным и в этом тоже стоит одна из проблем машинного обучения и это спред и затруднения связано с тем что как правило эти сети зависит от того какие данные на каких данных они тренировались а сам характер данных на котором на которых обучается искусственный директ в общем-то зависит от того как их готовили кто изготовил и по каким принципам то есть на самом деле сон процессе машинного обучения едва ли не ключевую роль играет так называемая разметка да потому что мы не можем просто взять и скормить не систематизированы и перемешаны друг с другом данные never сети и ожидать от не какой-то результат нам нужно подготовить данные внеся в них те различия и те категоризации которые помогут never сети используя имеющиеся не алгоритмические ресурсы опознавать то что для неё действительно значит и в этом смысле подготовка данных занимает гораздо больше времени требует куда больших ресурсов чем сама машина и обучения и здесь оказывается что человек играет очень важную роль потому что вообще подготовка тренировочных данных это очень трудоемкая задача и в не очень часто есть много промахов и ошибок которые привозят и потому что сама машина может допускать ошибки которые будут и бы воспроизводят человеческие предрассудки об этом не раз служащий позже и это на самом деле очень важный аргумент против искусственный интеллект его нынешнем виде и более того очень часто те паттерны и те закономерности и те корреляции которые видит алгоритм на основе анализа гигантских массивов данных это далеко не всегда объяснение того что же происходит во седан это закон который известен многим

статистикам да и многие чел художественно тоже о том что корреляция это не причинно-следственная связь когда что-то встречается вместе с чем-то на каком-то большом количестве случаев не свидетельствует о том что действительно есть причинно-следственная связь между двумя явлений два явления могут просто встречаться вместе достаточно часто и совсем не обязательно числа то встреч говорит о том что они связаны причинно следственной связи но в машинном обучении всегда есть соблазн обнаружить причинно-следственную связь там где собственно и нет там где увидела машин просто потому что статистически два события и два явления встречаются очень часто и конечно вокруг этого тоже был определенных aig потому что в 2008 году главный редактор журнала world который вообще является рупором вот это все гиковская не родов скорее картины мира сказал что теоретическое мышление отменяется потому что машинное обучение уже видит причинно-следственной связи которых не видит человек поэтому на мне не нужны люди ученые потому что машина едет лучше где есть причина следствия связи а где их нет поэтому конечно тут необходимо как это философская критика которая это все немножко разоблачить и в чем где собственно проблем во первых да помимо того что машинное обучение работы с моделью это восприятия и мышления сам по себе проекте и оставлено неоднозначным представление о том как мыслей человек потому что понятное дело что можем философия за 2 с полной тысячи лет своего существования на западе и на востоке предложила очень разные определение того что такое мышление описание того как человек мысли что является единицей мы шли какие правила являются важными для мышления насколько она зависит или не зависит от истории культуры далее так далее и очень странно что очень конкретная философская доктрина о том как мысли человек стало основой для этого амбициозного и большого проекта направлен на удовлетворение в общем то самый главный интриги человеческой жизни способными создать искусственно нечто подобное нам понятно что это представление о мышлении она неоднозначна и она более чем спор потому что есть еще много критики этих представлений более того сам искусно интеллектом физически не нейтрален это не как и всякая другая технология в общем-то вопрос стоит никто хороша или плоха оно само по себе он как она используется во благо или во вред важен в случае искусственна изредка так же как в случае любой другой технологии важен контекст использование и важно то как он проектируется важно по за подготовки данных и здесь чуть позже я расскажу чем больше об этом здесь возникает проблема предрассудок насти или проблема искажения проблема бариста называем и более того многие исследователи отмечают что вот эта надежда и вообще представление то что искусственный интеллект это полноценный субъект который уже сейчас мыслит и действует самостоятельно вне всякой зависимости от человека это мир у нас основаны на ошибочном представлении о том как работает эта система и балетом это идеологию которая часто подкрепляется всевозможными айти компаниями корпорации для того чтобы подкрепить такой культурный устойчивое культурное представление стереотип о том что такое искусственный интеллект естественно это вообще ангажирован представление об этом я тоже чуть-чуть расскажу во первых что касается и философских возражений есть очень много всевозможных позиции и их тут очень сложно как-то все резюмировать и в принципе самое простое соображение которое можно выставить против искусственно интеллекта это представление о том что когнитивная деятельность познание это не обработка информации да это не пассивное обретение данных в заранее размеченным виде из внешней среды до а напротив это активное и осмысленное взаимодействие с миром более там само понятие информации которая так важна для кибернетики например да и важно для многих современных близких искусственным select разработок она тоже совсем неоднозначность очень разное определение информации можно взять определение информации из собственная пресловутой теории информации вершина да и или можно взять определение информации которые ввели в кибернетике 2 молока и гри-гри bass которую информация что то большее чем простое отличие чего-то от чего-то другого да это нечистое различие кто имеет смысл для конкретного субъекта и в этом смысле познания как приобретение информации обогащение своего образа мира и мировоззрение но предполагает некоторые осмысленное взаимодействие с осмысленный же средой который уже заранее размечена на некие

объекты на некоторые доступные для взаимодействия среды для других субъектов конце концов и так далее здесь конечно стоит подчеркнуть особую роль тело социальности культуры это тоже такое как бы общее место казалось бы кто будет спорить что тело очень важно для окончательно 10 на самом деле если посмотреть на классику когнитивной науке например на теории визуального восприятия на теория работа памяти и так далее которые возникли в 50 и 70 даже на теории языка там полностью игнорируется вообще всякое руль тело важно то что есть мозг да есть аппарат зрительного восприятия из глаз которые получает информацию мозг обрабатывает информацию доводит ее до нужного вида и субъективно он получает некий образом здесь вообще неважно как устроено тело субъекта между тем понятно что в зависимости но как устроено тело субъект будет таким и будет мир воспринимаемый этим субъектам и это конечно важно более там это тело всегда является телом вовлеченным некоторые осмысленной социальную связь потому что научение пользования собственного тела научение определенным жестом научение определенным культивация определенных привычек это связано сделан все это тоже имеет очень важное прямое или косвенное влияние на характер как не сильно деятельности и тут конечно уже излишне говорить о значимости культуры в самом широком смысле символической материальной культуры до политики политических детерминант познавательной деятельности и так далее об этом все тоже очень много пишет о том что агрессивная деятельность это никогда не чисто когнитивной отец нас это всегда вовлечение в некоторые осмысленный уже заранее размечены исторические ориентирование в этом смысле те машины которые мы имеем сегодня несмотря на то что многие из этих аргументов были высказаны еще в семидесятые и когда эти аргументы высказывались философ которые используйте аргумент говорили о том что машина экзистенциально тупы тасс после что они не ориентируются в мире да не имеют смысла они не понимают то что они делают не раз сети которые опознают паттерн и она не понимает что за паттерн она познает то есть машина которая познают фотографии котиков она не понимает что на видеть именно котиков они собачек да они просто этому не научены они не по нему них нет изменения понимания не сводится просто к обработке да и в этом смысле машины судна или специально тупые по сей день они не ориентируются в мире они строят его модели а модель мира это не сама карта не территория говорить о свод бассейна реки и в этом смысле можно выдвинуть важный аргумент который говорит о том что лучшая модель мира это сам мир да а быть в мире это не значит просто пассивно получать информацию от мере и анализировать значит вовлекаться в него всеми доступными способами телесно интеллектуальные и эмоциональные так далее в этом смысле богатство когнитивной деятельности которое обладает разные формы жизни на нашей планете она все еще является чем-то не немыслимым и не моделируем внутри проекта искусно интелекта помимо этого есть еще другие возражения которые касаются политики использование искусную ти лет потому что понятно что любой технологии этически нейтрально и оценка того хороша или плоха зависит от того кто ее использует и как и например некоторых западных странах да и собственно говоря мы знаем что в москве тоже теперь используются эти умные решения а так называемые например строили технологии видеонаблюдения когда камеры наблюдения оснащаются нейросетями которые распознают лица соотносятся эти распознанные литнике базами данных связаны с преступниками с потенциальными террористами с определенными метриками статистиками так далее и может превентивно определить кто из граждан является потенциально опасным эта технология называется предикатив polishing или не знаю даже как на русском-то и превентивное предиктивные или предсказательная осуществление правопорядка это уже звучит достаточно репрессивные полицейские но вот в этом смысле всех же соединённых штатах и в москве и в некоторых странах западной европы есть большой энтузиазм насчет того чтобы вводить массово такого технологии то есть они используют алгоритмические статистические модели в криминалистике для того чтобы что чтобы предотвращать преступления отлавливать те кто потенциально может их совершить на основе того что у него не правильное выражение лица или может быть у меня подозрительные телесные движения и жесты которые говорят о том что может быть склонным к девиантному поведению на основе очень больших баз данных взятых у криминалистов психологов судмедэкспертов и так далее и это все выглядит конечно как такой антиутопический сценарий и извините за спойлер этот сценарий можно увидеть например в аниме психо паспорт вот там как раз на тему очень хорошо

раскрыта но там есть естественно внутренней проблему что помимо того что эти сети они умеют опознавать только почему а они научены здесь возникает сразу проблема что никакая не какой набор данных которых касается людей не является завершенным да потому что общая проблема такого рода криминалистических нейросети ли это то что они обучены на таких данных которые заставляют их автоматически определит как потенциальные преступные любые не белые лица в соединенных штатах это сейчас стало очень большой темой для обсуждения очень много пишете текст как делается наступление исследования и активизма это чуть что не раз сети и которые используют полиция в самих штатах опознают мне белые лица как потенциально опасны сразу что конечно говорит о том что взгляды которые вкладываются в эти в тени растите они реакционными они восходят там позициям какой-нибудь чезаре ломброзо из 19 века следа привет за прошлого столетия более того эти не российские еще не правильно определить гендерную принадлежность лиц внешность которых не подпадают под бинарную логику мужчин и женщин это тоже вызывает много вопросов и требуют какой как минимум доработки этих технологий да и last but not лист помимо того что эти технологии как бы возобновляют и приумножают дискриминацию и какую-то избыточную репрессивную дифференцировку людей на новых оснований на старых основаниях но при этом использование новых технологий помимо этого когда говорят о машинном обучении и они растят всегда забывают о том что машинное обучение общей искусственных электросон на огромном объеме труда которые проводят люди и труд которых вообще говорят забывается это так называемый призрачные работники горст workers потому что для того чтобы размер чтобы искусственно тех научилась например познавать лица нужно подготовить дан подготовкой разметкой данных для эти компании часто занимаются граждане бедных стран как они словно венесуэлы и к стран африки вообще латинской америки да и труд этих людей очень мало оплачивается то есть понятное дело что получается что эти технологии очень сильно завязаны на человечество труде которые при этом гнали лиц потому что мы привыкли думать что искусство интеллект это какая-то такая очень умная штука которая принимает решение полностью сало который вся такая крутая и замечательно но при этом оно полностью не зависит от человека на самом деле она на уровне на этапе обучения она фундаментальная зависит от человека того кто готовит данный как это производится и труд этих людей как правило игнорируется и не да освящается собственно говоря здесь можно перейти к важному различию между искусством select нам роботами и киборгами вообще часто эти термины использовать как синонимичные но тем не менее стоит я думаю ввести некоторые важные различия которые вообще говоря исторический осваивать первых робот как бы наверно знаете этот термин который был vision care коронка пиком таким писателем-фантастом который обозначен собственные автоматы которые работают по заранее заданной программе от некоторых некоторые машины до которое поведение которое вписано в определенную предопределён ую программа в отличие от роботов киборг это некая гибридная форма доктора предполагает что она представляется бы некое смешение биологии технологии и киборг в этом смысле это понятие которое стало гораздо более популярным на самом деле в последние годы в гуманитарной теории чем робот потому что возможно кто-то знает манифест киборгов дон харви и вообще влиятельность понятия киборга и для культурных исследований для политической теории в том числе для когнитивистики раз самом деле потому что многие дантисты они в сущности воспроизводит эту идею что в принципе любой агент познания любой субъектом уже по дефолта является кибр ими в том смысле что он объединяет в себе биологические и технологические компонентов и исторически идея киборга возникла в и так называемые космической медицине когда в рамках космической гонке между с соединенными штатами возник запрос того как у совершенство человека для путешествий космоса и тогдашние врачи медики геологи соединенных штатах они в самом начале 60-ых предложили идею кибернетического организма до сих киборга то есть такого субъекта органы которого заменяются составлю искусственными деталей например искусственный респираторной систем или искусственные системы кровообращения которые больше и лучше адаптированы к жестким условием космических путешествий помимо этого многие исследователи говорят о том что на самом деле киборгами в 20 веке и да и по сей день были являются пациенты которые участвуют участвовали тогда в 50-60 разработках

протезов учеными кибернетика my и которые сегодня в силу различных причин там возле инвалидности связано с различными заболеваниями или врожденных инвалидности нуждаются в совершенствовании реабилитации своих органов с помощью машины с помощью искусственных устройств то есть идея кипр и гана предполагает идею протезировании протезирование исторически изначально предполагала не столько усовершенствования человека сколько адаптацию под индивидуальные особенности человека и под особенности среды в которой ты чё оказывается то есть это совсем другая иди и она очень сильно отличается от идеи искусство интеллекта потому что предполагает ориентацию именно на биологический субстрат который у нас имеется сейчас это таки мы являемся собственного ряд биологически и психологически скажем так и в этой связи конечно можно мне кажется это моя философская позиция с которым можно спорить что более перспективно является идея кибр и они идея искусственный интеллект потому что киборги часть предполагает нетривиальные сложные взаимоотношений в том числе и с искусственным интеллектом на которой не предполагает возлагая на и надежды к контракту будет таким же умным или даже более умным чем мы люди почему потому что можно представить себе три таких очень общих сценария будущего нашего нашей коммуникации с искусственным интеллектом они все представленные культурологии их прогностики и в научной фантастики в общем это все принципе общеизвестна и три сценария такого первых это порабощение людей машинами сразу можно вспомнить еще много примеров из кино игр да и это как правило самые иррациональные самый по многие самых распространенных сценариев второй сценарий является более реалистичным с точки зрения науки это взаимное непонимание потому что так же как мы люди не понимают животных до как мы не понимаем и не замечаем насекомых который является очень большую часть в нашей биосферы также искусственный интеллект не будет нас замечательно он не будет нас воспринимать потому что в него быть своя экосистема своей экологической когнитивная ниши и это тоже странный сценарий потому что в общем-то можем моделируем искусство интеллект на основе архитектуры нашего восприятия и поэтому должен иметь что-то по меньшей мере сходное с тем что имеем и наконец третий сценарий это гибридизации когда мы будем продуктивно взаимодействовать или может не очень продуктивным мы будем взаимодействие скучным интеллектом обогащая наши способности и может быть как то меня и наши представления носами и собственно говоря этот сценарий тоже не сенсационный потому что в действительности вся история человечества это история гибридизации к истории видя изменений которые мы привносим в наше тело нашей культуры за бритым изобретение письменности мифологии науки научных теорий на все тоже уже гибридизации да тоже изменение в структуре нашего тела и в этом смысле нашего тела нашему разу естественно искусственные директ это же один из инструментов и принципе одна из важных идей который я учу бы хотела бы донести то что искусственный интеллект не столько автономная сущность не столько автономное образование сколько тоже некий инструмент который можно использовать для достижения самых разных целей хороших и плохих разной степени полезности для нашего развития и в этом плане конечно задача который стоит перед философами и культурологами критическими теоретиками социальными и политическими стоит том чтобы собственно говоря расколдовать искусственно интеллект и показать что это все-таки скорее инструмент для достижения потянутся инструмент для получения знаний например или инструмент для упрощения каких-то задач они самостоятельно и сочность который придет и избавит нас в одночасье от всех наших проблем какое-то считают многие утопические мыслящие теоретики трансгуманисты пост гуманист и так далее в этом смысле конечно важно указать на то что у современного и нет автономии он не может мыслить рассуждать и принимает решение так же как это делает человек потому что есть много привходящих параметров которые пока что современная архитектура искусственный свет не может честь она не может смоделировать и в этом смысле и моделью только и способности человека в упрощенный форм но он не имеет не умеет учиться мыслить и принимать решение так же как это делает человек в этом смысле это что-то вроде усовершенствована высокотехнологичной лопата это скорее инструмент человеческой деятельности чем некая самоцель он не имеет автономии да и тоже очень важна идея потому что ничего суд автономии базовая способность индивида один способность самостоятельно мыслить и принимать решение относительно себя нет своей жизни и в этом смысле я бы хотел заключить и обозначится услу 33 каких-то узловых

скажем так и деев сегодняшней лекции первое это то что идея искусственного разума возникало философии уже достаточно давно и только впоследствии проникнув на углы в истории науки и техники при этом она очень сильно зависит от тех технологических ресурсов как доступны исторически потому что он всегда предполагает некоторых продуктивную взаимообмен между идея искусственного интеллекта и между идей интеллекта как такового всегда предполагает некий взаимный обмен позициями взаимный обмен модели второе то что искусственный телепатически не нейтрален и его оценка зависит от того как именно он применяется человека и в этом смысле и фундаментально зависит от человека потому что он зависит от разметки данных которые производят людях завести того где он используется в каких целях и поэтому он часто приводит к непредвиденным негативным последствиям которые критикуются и вполне справедливо наконец третья за то что искусственный свет сегодня пока что не похож на человека как бы мы не хотели этого но пока еще рано ждать что и сможет вытеснить человека по крайней в каких-то направлением действий которые связаны именно с применением нетривиального нелинейную человеческого интеллекта он не обучается не мыслят так как люди и очень сильно зависит от поддержки человека потому что на многих уровнях он именно зависит от поддержки человека пусть он не способен мыслить самостоятельно просто потому что он моделирует только отдельные упрощенные способности человеческого разума вот на этом я пожалуй закончу я надеюсь на ваши вопросы и комментарии спасибо