Red Hat представила открытый проект llm‑d. Это высокопроизводительная распределённая структура вывода LLM на основе Kubernetes. Исходный код решения опубликован на GitHub под лицензией Apache License 2.0.

Читать далее Источник