Назбиралось трохи цікавих ресурсів та тулів по ШІ, ділюсь з вами списочком.
В мережу злили фейсбучну модель llama, хакери оптимізували її під процесори Apple і тепер їх можна ганяти локально. Найменша модель 7B на моєму M1 Pro 16GB видає 5 токенів у секунду, правда вона тупенька. 30B з’їдає до 30гб оперативки і видає один токен за 2хв. Хтось вже підняв найменшу модель на Raspberry PI та Pixel 6. Коротше ШІ зараз летить швидше ніж у фронтенді виходять нові фреймворки, скоро воно буде в холодильниках, цікаво спостерігати за розвитком github.com/ggerganov/llama.cpp
LangChain — абстракція поверх LLM та векторних баз даних, по суті дає загальний інтерфейс для композиції моделей, баз та зовнішніх сервісів як кубиків лего langchain.readthedocs.io/en/latest/
Я думаю що оцей пошуковий ШІ для девелоперів www.phind.com/ побудований якраз на LangChain, бо він комбінує у собі щось типу ChatGPT та Google і інші сайти як джерела даних. Я десь вже тиждень користуюсь Phind і поки цілком задоволений, результат точно кращий ніж гугл.
З’явилась open source альтернатива ghatgpt twitter.com/itakgol/status/1634590622286741504
Стаття про швидкий розвиток LLM simonwillison.net/2023/Mar/11/llama/, буквально кожного дня з’являється щось нове
По StableDiffusion теж є новини, більше про стабілізацію картинки при генерації кадрів для відео xanthius.itch.io/multi-frame-rendering-for-stablediffusion
