(UA) IT/Tech Ukrainians in Canada

[t55955565]

Context Window Overflow

[t401676858]

Смысл такой что зацикленность на однотипных ответах эмм может быть biases

[t55955565]

Minas Brazilian Steakhouse (403) 454-2550 g.co/kgs/dbZ7iX1

[t401676858]

Не пробовал сильно длинную а вообще похоже на известную проблему забыл как называется термин

[t401676858]

Мне кажется обе проблемы имеют место после n - го промта на тот же контекст

[t401676858]

Вот вот я про эту штуку

[t55955565]

Как бы усиливаются наиболее вероятные ответы

[t55955565]

Это reinforcement bias, да

[t401676858]

Это лечат примесями шума в промт

[t401676858]

Хм есть другое типа модель со временем увеличивает вес правильных ответов и потом ответы становиться очень однобокими практически одно и тоже повторяет

[t55955565]

Мало того, если еще какой-то топик поднять, то вообще будет detail blending

[t55955565]

Я именно про длинный чат

[t55955565]

Может начаться hallucinating

[t401676858]

Нет так он же говорит чат длинный а не все в один промт впаять

[t55955565]

И тк мы идем дальше, то теряется многое

[t55955565]

Оно как бы все время делает саммари, не хранит все.

[t55955565]

Ну юзер уже только промптами))

[t401676858]

А с overflow что обычно делают

[t401676858]

А если юзер то шума подмешать

[t55955565]

It depends, ну вот если ты не юзер, а именно инженер, то надо подкрутить randomness например, много факторов