paroh | глюки

Видимо, настигла ностальгия по жж. Начал комментить. Телега лучше мордокниги, но для дискуссий тоже не очень подходит. За что люблю жж-общение - можно буквально препарировать текст, ответив отдельно на каждое предложение.

Я: "Галлюцинации ИИ - недоработка программистов или следствие конструкции нейронов? В какой мере глюки являются частью человеческой природы?"

Мне ответили:"Качество ответа ИИ измеряется вероятностью. Вероятность не может быть 100%. Отсюда галлюцинации."

Я: "Вероятность 50%. Либо будет глюк, либо нет. )) Интересно только, насколько эта ваша вероятность применима к так называемому реальному миру?"

Мне ответили: "Вы, явно, не в теме. Думаете вы сейчас выставили себя в каком свете? Даже у gptchat спросить не догадались.
Модели работает на основі вероятностного прогнозирования того какой токен (следующее слово или сочетание) наиболее вероятно будет следующим в ответе (учитывая контекст). Вы можете видеть как во время ответа ИИ строит ответ. Слово за словом. Появление каждого слова измеряется вероятностью.
Допустим следующее слово подходит с вероятностью 95% и ИИ его использует. Но может оказаться что оно не правильное (5%). А последующее слово будет опираться на фразу с неправильным словом и т.д. Получается галюцинация"

Интересно, что сначала это сообщение было намного короче. Буквально в реальном времени я наблюдал как, предполагаю, осуществлялась копипаста откуда-то, возможно и из ИИ. Такой вывод сделал, потому что, около часа до я задал этот вопрос deepseek. Отсюда и мой сарказм в следующей реплике.

Я: "Батенька, давайте общаться без переходов на личности. Вот вы прогаллюцинировали насчет того, догадался ли я спросить у чатаджипити? А ведь этот вопрос можно задать каждому пасущемуся здесь участнику, завиноватив, обесценив и заставив оправдываться. Зачем спрашивать здесь, если есть ИИ, который с вероятностью 100% будет предельно вежливым и корректным. Спорить с чатомджипити, копипастя из других ИИ, нахожу утомительным, это работа для ботов. Пока, тем не менее, продолжу. Вы не ответили на мой незаданный вопрос. Вы ответили на свой. Мне же интересно нащупывать границы такой неопределимой штуки, как сознание. И, мне кажется, что галлюцинации ИИ важны для понимания работы разума."

Мне ответили: "Я ответил на ваш первый вопрос и на ваш ответ на мой комментарий. Повторюсь, что вы не в теме, пишите ерунду так еще и критикуете того кто вам отвечает. Оставайтесь же в своем темном лесу."

Тут я закончил дискуссию. Хотя так и подмывало ответить в стиле ЖЖ: "ПишЕте, жЫвотное!" А на полутонах-то Вергилий, прям.

Если глянуть на ответы чувака, то невооруженным глазом видна масса манипулятивных техник. Мне лень препарировать.

Он еще писал в треде, и я там увидел похожее мнение об образовании, которое как-то недавно слышал у Дмитрия Быкова. И тут подумалось мне, что ведь вполне же можно тренировать нейронки так, чтобы они отвечали в стиле какого-то писателя.

Типа: "ответь мне в стиле Пушкина". Или:"прочитай конкретный блог и напиши статью о том-то в таком же стиле."

Другой ник мне ответил на первый вопрос: "Глюкии ИИ – аналог человеческих сновидений. Получается, это не недоработка, а результат работы при недостатке ресурсов (нейронов, памяти)."

У обоих мне ответивших опечатки на букву И.

Что интересно, следующим постом было упоминание другого тг-канала. Т.е., пост, в котором просят написать вопрос, вероятно, был рекламным ходом.

Тут у меня конечно возникла куча мыслей по поводу. Что совсем скоро тяжко придется теперешним лидерам мнений. Ведь вопросы можно задавать напрямую.

upd. Невероятно, но в программе, записанной 11.06, Дмитрий Быков говорит, что орёт на незнакомых людей в сети, чтобы потом быть вежливым в семье.