Можно ли доверять ChatGPT? Может ли нейросеть манипулировать нами?

для нас стало нормой что ты в чат gpt например вбиваешь вопрос он тебе сразу же выдаёт ответ и мы не задумываемся А как эта штука находят ответы откуда вообще у неё все эти знания она их придумывает или она использует реальный опыт человечества самое главное а можно ли ей доверять потому что мне часто писали об этом пользователи нашего Telegram канала часто меня спрашивали студенты на курсе представьте вот вы смотрите какой-то фильм сериал и в какой-то момент в этом сериале вы понимаете вот этот вот предатель вот этого убьют откуда у вас это знание ведь Бывало такое что вы уже могли предугадывать сюжет нового фильма который вы ещё не видели откуда у вас это знание потому что у вас есть определённая насмотренность и вы уже интуитивно понимаете как будет строиться сюжет то же самое и у Нейро Сити которая является Chat gpt и другие текстовые не Да в принципе любые Нейро Сити у них есть такая большая насмотренность всего что они могут предугадывать что будет дальше Откуда берётся у них это насмотренность это называется датасет Откуда берётся этот датасет И что ей на самом деле скормили Первое - это все открытые веб-сайты коммерческие веб-сайты э форумы чаты где спрашивают вопросы и новостные порталы то есть всё то где содержится информация и она уже имеет представление о том что вообще люди обсуждают на что она обращает внимание что у неё есть она знает как люди пишут о чём люди пишут комментируют что отвечают и знает достаточно много про товары и услуги супер но этого недостаточно что ещё ей загрузили в память это книги огромное количество книг которые есть у человечества загрузили в мозг этой машины и она теперь имеет насмотренность всех книг всех сайтов всех комментариев и естественно Если ты помнишь их наизусть но Представляете у неё бесконечное количество э уровень запоминания Да она помнит их все наизусть и она может в принципе предугадывать что будет дальше а конечно большой вопрос А каким образом управлять тем что она будет выдавать об этом мы поговорим в следующих видео но сейчас мы разберём как она выдаёт этот ответ И помимо этого у неё есть ещё доступ Вы не поверите ко всем YouTube видео да оказывается в каждом YouTube видео YouTube автоматически создаёт автоматические субтитры так вот эти субтитры в текстовом виде они их можно достать они хранятся в определённых файлах по каждому видео и нейросети отдали все эти субтитры и она теперь ещё знает всё что было в YouTube файлах поэтому объём знаний у неё конечно же колоссальный Ну и всего того что в интернете нет у неё просто физически нет Действительно ли есть это реальный опыт людей Ну насколько реальный опыт людей в интернете получается что да эти данные у неё есть и а второй момент ну вернее даже не второй а уже третий момент на чём ещё основываются ответы нейросети это наши данные То есть как она их получает первое вы просто вводите запрос и она По этому запросу понимает уже кто вы потом выводите какие-то уточнения она по этим вещам понимает данные недавно например Был скандал в Самсунге запретили полностью использование нейросетей потому что сотрудники думают ну нейросеть же Она что-то разбирается загрузили ей определённый код А нейросеть знаете что сделала О прикольно это код вот на такой вопрос я его буду выдавать всем остальным и всем выдавала конечно по запросу Но это бы потому что секретную информацию от Самсунга нейросеть отдала кому-то другому то есть нейросеть учится на тех данных которые вы ей отдаёте Поэтому если вы вдруг решили отдать ей какие-нибудь бухгалтерские документы или секретные данные на обработку сначала дважды Подумайте Стоит ли это делать или нет Или всё-таки лучше позвать какого-нибудь человека который будет сидеть и в этом разбираться А и получается что у неё есть вот этот датасет исходные данные которые есть у неё есть материалы которые вы в неё загру Мы очень классный эксперимент проводили мы загрузили огромное количество книг Ну вот большую книгу нашего автора и попросили написать рецензию на вот эти книги и она очень точно написала что в этой книге То есть когда у неё есть датасет и она понимает как это писать из её предыдущего опыта она даёт очень точные ответы и в этом случае да мы её кормим реальными данными Можно ей доверять Если реальных данных нет она начинает их что это называется галлюцинация когда она придумывает вымышленные ответы и на самом деле на первых версиях Ну на версии там 3 с поно можно было попросить у чата gpt написать путеводитель по Нови придуманная страна Вот кто не знает и он с удовольствием распиши вам как замечательно гулять по площади Нови вообще не понимая о том что происходит то есть ему даёшь он это делает но В новых версиях она начинает чуть-чуть делать приземление к реальности и сверяет это действительно правильно или непра правильно

хотя да можно и вот возвращаясь к вопросу А можно ли ему доверять в этих вещах Конечно же нет потому что все ответы которые нужно а выдаёт Вам нейросеть нужно ещё раз проверять А это называется фактчекинг потому что где-то 1-2 про от всего того что генерирует нейросеть будут с галлюцинациями То есть она же не знает всего объёма данных которые у вас есть она будет что-то додумывать Да придумывать исходя из её картины мира вообще как работает память Вы же не фотографируете памятью какие-то данные А вы вспоминаете какой-то факт о каком-то человеке или о событии и дальше в голове Мы достраиваем трёхмерную картину всего того что было что оно становится достаточно фотореалистичный восприятию вот за адекватность восприятия отвечает вот этот датасет у Нейро сети а за факты которые есть в Нашей памяти Ну отвечает эмоции они эмоционально мы связываем эти факты А у нейросети - это те данные которые вы загрузили чем больше данных конкретных вы ей загрузите тем более точный ответ она будет выдавать и если она выдаёт Вам фигню Это значит вы просто не умеете Задавать ей правильно вопрос и отдавать ей данные потому что значит она больше ориентируется на свой а размытый а опыт который уже устаревает Да с каждым днём и для того чтобы этому научиться нужно просто изучить Как делать промт и Промт это запрос для не сети Каким образом её обучать тому что у вас есть на этот счёт У меня есть три отдельных видео которые я внизу привёл они вам идут бонусом до встречи в следующих видео пока