LLM’dan barqaror JSON javobni qanday olish mumkin

JSON olishning uchta usuli

LLM javobini odam emas, kod o‘qiganda oldindan bashorat qilinadigan JSON kerak. Ishonchlilikning uchta darajasi bor:

Tanlov oddiy: API sxema bo‘yicha javobni qo‘llab-quvvatlasa — undan foydalaning. Bo‘lmasa — JSON mode va qat’iy validatsiya. Bularsiz prompt faqat prototip uchun yaraydi.

Yana bir variant — tool calling (function calling): siz parametrlar sxemasi bilan «vosita»ni tasvirlaysiz, model esa argumentlarni tuzilma ko‘rinishida qaytaradi. Ko‘pchilik undan aynan JSON olish usuli sifatida foydalanadi.

JSON uchun promptni qanday yozish

JSON mode bilan ham prompt muhim — model maydonlar ma’nosini tushunishi kerak.

• Aniq sxemani yoki namunaviy obyektni ko‘rsating.
• Har bir maydon nimani anglatishi va qaysi qiymatlar ruxsat etilganini tasvirlang.
• Ma’lumot bo‘lmasa nima qilishni ayting: null, bo‘sh massiv yoki maxsus qiymat.
• Izohlarsiz va markdown’siz faqat JSON qaytarishni so‘rang.

Arizadan ma’lumotlarni ajratib ol. Izohsiz faqat JSON qaytar:
{
  "name": string,
  "phone": string | null,
  "service": "web" | "mobile" | "bot" | "other",
  "budget_mentioned": boolean
}
Agar maydon matnda ko‘rsatilmagan bo‘lsa — null qo‘y.

Validatsiya: javobni doim tekshiring

To‘g‘ri sintaksis hali to‘g‘ri ma’lumot degani emas. Javobni kodda sxema bo‘yicha tekshiring — masalan, Python’da Pydantic yoki TypeScript’da Zod yordamida.

from typing import Literal, Optional
from pydantic import BaseModel, ValidationError

class Lead(BaseModel):
    name: str
    phone: Optional[str]
    service: Literal["web", "mobile", "bot", "other"]
    budget_mentioned: bool

def parse_lead(raw: str) -> Lead | None:
    try:
        return Lead.model_validate_json(raw)
    except ValidationError:
        return None

Koddagi sxema yagona haqiqat manbai bo‘lib xizmat qiladi: API so‘rovi uchun JSON Schema’ni ham undan generatsiya qilish mumkin.

Xato bo‘lganda qayta so‘rov

Yaxshi sozlangan holatda ham ba’zi javoblar tekshiruvdan o‘tmaydi. Ishlaydigan pattern:

1. So‘rov yuborish, javob olish.
2. Validatsiya qilish.
3. Xato bo‘lsa — validatsiya xatosi matnini qo‘shib so‘rovni takrorlash: «Javob tekshiruvdan o‘tmadi: service maydonida ruxsat etilmagan qiymat. Tuzat va faqat JSON qaytar».
4. Urinishlar sonini cheklash (odatda bir-ikkita yetarli).
5. Baribir chiqmasa — logga yozish va tushunarli xato qaytarish yoki qo‘lda ishlov berishga yuborish.

Cheksiz takrorlamang va JSON’ni regulyar ifodalar bilan «tuzatmang» — bu muammoni yashiradi.

Parsingdagi keng tarqalgan xatolar

• Markdown o‘rami. Model JSON’ni uchtalik qo‘shtirnoqli kod bloki ichida qaytaradi. Yechim: sxema bo‘yicha javob yoki JSON mode; oxirgi chora sifatida — parsingdan oldin o‘ramni ehtiyotkorlik bilan olib tashlash.
• JSON’dan oldin yoki keyin matn. Obyektdan oldin «Mana natija:». Yechim: promptda aniq taqiq va validatsiya.
• Kesilgan javob. Token limiti obyekt o‘rtasida tugagan. Yechim: limitni oshirish, API javobida generatsiya to‘xtash sababini tekshirish.
• Noto‘g‘ri turlar. true o‘rniga "true", son satr ko‘rinishida. Yechim: sxema va validatsiya, kerak bo‘lsa — kod tomonida turlarni o‘zgartirish.
• O‘ylab topilgan qiymatlar. Model matnda yo‘q maydonni to‘ldiradi. Yechim: nullga ruxsat bering va taxmin qilish mumkin emasligini aniq ayting.
• Juda murakkab sxema. Chuqur ichma-ichlik va o‘nlab maydonlar xato xavfini oshiradi. Yechim: soddalashtirish yoki bir necha so‘rovga bo‘lish.