(UA) IT/Tech Ukrainians in Canada

[t55955565]

Зависит от количества токенов, которые может запомнить модель

[t401676858]

Ну типа предрассудки переводится но это не про те которые типа темнокожие чаще преступники, женщины хуже мужчин и прочая херня которую обычно закладывают в модель чтоб избегала не выдавала таких ответов которые типа ущемляют кого то

[t55955565]

Context Window Overflow

[t401676858]

Смысл такой что зацикленность на однотипных ответах эмм может быть biases

[t55955565]

Minas Brazilian Steakhouse (403) 454-2550 g.co/kgs/dbZ7iX1

[t401676858]

Не пробовал сильно длинную а вообще похоже на известную проблему забыл как называется термин

[t401676858]

Мне кажется обе проблемы имеют место после n - го промта на тот же контекст

[t401676858]

Вот вот я про эту штуку

[t55955565]

Как бы усиливаются наиболее вероятные ответы

[t55955565]

Это reinforcement bias, да

[t401676858]

Это лечат примесями шума в промт

[t401676858]

Хм есть другое типа модель со временем увеличивает вес правильных ответов и потом ответы становиться очень однобокими практически одно и тоже повторяет

[t55955565]

Мало того, если еще какой-то топик поднять, то вообще будет detail blending

[t55955565]

Я именно про длинный чат

[t55955565]

Может начаться hallucinating

[t401676858]

Нет так он же говорит чат длинный а не все в один промт впаять

[t55955565]

И тк мы идем дальше, то теряется многое

[t55955565]

Оно как бы все время делает саммари, не хранит все.

[t55955565]

Ну юзер уже только промптами))

[t401676858]

А с overflow что обычно делают