(UA) IT/Tech Ukrainians in Canada
-
Ні, LLM - це не "пошук в інтернеті" 😊 Це мовна модель, яка генерує статистично найімовірнішу послідовність слів (чи інших сегментів даних) на основі вхідних даних, та яка тренована на деякому сеті даних, який а) кінцевий б) суттєво менший за "інтернет". Коли вона не в змозі підібрати статистично ймовірні наступні блоки, вона починає "галюцинувати" і генерувати некоректну, або цілком невірну інфу, або взагалі беліберду, яка буде тим не менш виглядати досить правдоподібною. Але навіть у разі, коли вона не галюцинує, є все ж пара нюансів - вона лімітована тими даними, на яких була тренована - гугл теж лімітований тим, шо він індексує, але ніхто не тренує LLM на "всьому інтернеті" - при пошуку в гуглі у вас є можливість самостійно оцінити джерело інформації - шо це за сайт, коли воно було написано, який там контекст, це стаття чи дослідження чи пост в соцмережах, хто автор і тд і тп. Цей набір факторів дозволяє вам, як людині, яка це читає, спробувати оцінити вірність/правдивість цієї інформації. В разі, коли ви отримуєте цю відповідь від ЛЛМ - такої можливості у вас нема, тому цілком вірогідна ситуація, коли умовно на 50 гівносайтах (які були в тренінг сету ЛЛМ) написано, шо це Х, а на 2 серйозних сайтах написано (та підтверджено там дослідженнями і тп), шо це Y - ЛЛМ згенерує відповідь X, в той час як людина проаналізує і зробить висновок, шо скоріше за все це Y.
-
Доволі яскравий приклад того, що зараз відбувається: завдяки GenAI народ значно менше став користуватися stackoverflow. Але stackoverflow - одне із основних джерел тренувальних даних для моделей, які працюють з кодом. Тому чим більше народ юзає моделі, тим гірше вони будуть ставати з часом 🤷♂️
-
"Коли вона не в змозі підібрати статистично ймовірні наступні блоки, вона починає "галюцинувати"" Це буває, але це не така критична проблема як ви іі висвітлюєте
-
Чатгпт вже давно вміє користуватися інтернетом
-
Таке відчуття що як бабки на базарі пересказуете що десь почули
-
Гайз, ви взагалі користувались чат гпт?
-
чи буду я довіряти чат гпт у питаннях як довго конкретна іжа може хранитись в холодильнику для беспечного харчування? Ні чи буду я довіряти йому коли спитаю рецепт як приготувати курицю? Так
-
залежить від ситуаціі
-
Можна перечитати ще раз мож повідомлення та зрозуміти, шо я написав, шо це - не пошук в інтернеті, а не те, шо він цьооо не вміє 🤷♂
-
ситуація - рецепт куриці
-
І робить вже як декілька місяців
-
контраргумент - робить
