Полный текст

Георгий Герганов, автор llama.cpp и звукового кейлогераМногие пользуются YouTube, Netflix, но не подозревают о ключевых опенсорсных программах типа ffmpeg, которые работают на бэкенде этих сервисов. Похожая ситуация с нейронками, где многие знают программу Ollama для локального запуска моделей на CPU. Но мало кто понимает, что это всего лишь простенькая оболочка вокруг опенсорсной библиотеки llama.cpp на С, которая и делает инференс.Автор этой библиотеки, талантливый разработчик Георгий Герганов, мало известен широкой публике