Отвечая на вопрос о принципе работы нейросети и похожа ли она на систему Т9, Юрий Шевцов отметил: "Да, в основе это. Просто система очень мощная и работает, обучаясь от запросов. Скажем, когда вы работаете с Nokia, то система привыкает к небольшому набору привычных вам слов. И когда пишете первую букву, она оперирует, наверное, тысячей слов (вряд ли больше). А тут идет обучение системы таким образом, что она оперирует сотнями миллионов слов. И тут важно, какие слова она будет подставлять. Потому что GPT-4, когда ее массово стали использовать, показала несколько дополнительных феноменов. Она не только стала создавать алгоритмы опасных действий, но и показала, что быстро начинает делать тексты такими, какие хочет получить человек, который задает указания".

"МЕНЯЕТ СОЗНАНИЕ, И ОЧЕНЬ БЫСТРО". ШЕВЦОВ ПРО ОПАСНОСТИ НЕЙРОСЕТЕЙ

Например, пользователь даст указание написать текст, аналитическую разработку на тему, как провести предвыборную кампанию в Шри-Ланке. "И она выдаст то, что с ее точки зрения соответствует мировосприятию этого конкретного заказчика. То есть она посмотрит те слова, которые он раньше давал другим пользователям, использует системы запросов других пользователей по Шри-Ланке и выдаст то, что человек хочет услышать. Это называется, как стали говорить журналисты, - искусственный интеллект склонен к подхалимажу", - рассказал эксперт.

"ВЫ УЖАСНЕТЕСЬ". ШЕВЦОВ О ТОМ, ЧТО ПРЕДСТАВЛЯЕТ СОБОЙ СИСТЕМА GPT-4 И В ЧЕМ ЕЕ ОПАСНОСТЬ

Юрий Шевцов подчеркнул, что выданный ответ на запрос не является истиной. "Она будет стараться дать истину, но обязательный ее показатель - создать комфортный для вас текст или комфортный алгоритм действий. И тут содержится глубочайшая опасность: на уровне идеологии система будет очень глубоко проникать в сознание человека и выдавать ему то, что он хочет услышать применительно к сложным темам".