XML наносит ответный удар или про оркестрацию LLM

[mdmx]

https://github.com/microsoft/poml

POML (язык разметки подсказок) — это новый язык разметки, разработанный для обеспечения структурированности, удобства поддержки и универсальности при разработке подсказок для больших языковых моделей (LLM). Он решает распространённые проблемы при разработке подсказок, такие как отсутствие структуры, сложная интеграция данных, чувствительность к формату и неадекватный инструментарий. POML обеспечивает систематизированный подход к организации компонентов подсказок, бесшовной интеграции различных типов данных и управлению вариантами представления, позволяя разработчикам создавать более сложные и надёжные приложения LLM.

Comments

[vit_r]

Надо было сразу начинать с магических кругов.

[mdmx]

Я ге особо влезал во все это, но по личным ощущениям они уперлись в ресурсы. А инвесторыхотят результат или деньги. А деньги можно нарубить с платных подписок которые теперь лезут прямо посередине апогея разговора. И ловил себя несколько раз что уже готов заплатить, но вовремя себя останавливал.
Так что период "первая доща бесплатно" уже прошел, тепеиь пошел подсадить на подписку и оптимизировать расходы на простои и инфраструктуру.
А язык это к третьей фазе подход, когда из нескольких разных моделей инфу собираешь, я уже руками так делал, из джемини в грока, из грока чатжпт... неплохая компилляция выходит.