Human-in-the-loop: AI-agent ishiga tasdiqlashni qanday qo‘shish

Inson qayerda kerak, qayerda kerak emas

Human-in-the-loop (HITL) — AI-agent amalni tayyorlaydi, lekin u faqat inson ma’qullaganidan keyin bajariladigan sxema. Hamma narsani tasdiqlash shart emas: bu avtomatlashtirish ma’nosini yo‘qotadi. Tasdiq xato qimmat yoki uni bekor qilib bo‘lmaydigan joyda kerak.

Oddiy qoida: agent o‘zi o‘qiydi, qidiradi, hisoblaydi va qoralama tayyorlaydi. Inson esa tizimdan tashqaridagi dunyoni o‘zgartiradigan narsalarni tasdiqlaydi: pul, mijozlarga xabarlar, o‘chirish va ma’lumotlarni ommaviy o‘zgartirish.

Agent amallarini qanday tasniflash

Agentga mavjud barcha vositalar (tools) ro‘yxatini tuzing va har birini uchta savol bo‘yicha baholang:

• Amalni qaytarish mumkinmi? Xat qoralamasi — ha, yuborilgan xat — yo‘q.
• Xato qanchaga tushadi? Pul, obro‘, yuridik oqibatlar.
• Natijani kim ko‘radi? Ichki xodim yoki mijoz, hamkor, davlat organi.

Javoblar asosida uchta daraja chiqadi:

Muhim: taqiqlar promptdagi gap bilan emas, kod va kirish huquqlari darajasida amalga oshiriladi. Agentga o‘chirish metodi kerak bo‘lmasa, unga o‘chirish huquqiga ega API-kalit bermang.

Tasdiqlash navbatini qanday qurish

Navbat — so‘rovlar jadvali, har bir yozuvda bir necha soniyada qaror qabul qilish uchun hamma narsa bor:

• agent aynan nima qilmoqchi (vosita va parametrlar, o‘qiladigan ko‘rinishda);
• nima uchun: dastlabki so‘rov, kontekst, modelning qisqa asoslashi;
• qaysi obyektga ta’sir qiladi: mijoz, buyurtma, summa;
• «Ma’qullash», «Rad etish», «Tahrirlab ma’qullash» tugmalari.

So‘rovlarni odamlar allaqachon ishlayotgan joyda ko‘rsatish qulay: CRM, xodimlar uchun Telegram-bot, ichki admin panel. Bildirishnoma keldi — tugma bosildi — agent davom etdi.

Texnik jihatdan agent ishini pauzaga qo‘yish mumkin bo‘lishi kerak. Agent holatini saqlaydi, so‘rov yaratadi va qadamni yakunlaydi. Qaror kelganda jarayon o‘sha joydan davom etadi. Ko‘plab agent freymvorklari bunday to‘xtatishlarni tayyor holda qo‘llab-quvvatlaydi, lekin buni ma’lumotlar bazasi va vazifalar navbati orqali o‘zingiz ham qilishingiz mumkin.

Audit jurnali

Agentning har bir amali — avtomatik ham, tasdiqlangan ham — jurnalga yoziladi:

• vaqt, agent kimning yoki qaysi jarayon nomidan ishlayotgani;
• chaqirilgan vosita va parametrlar;
• natija yoki xato;
• tasdiqlanadigan amallar uchun — kim va qachon ma’qullagani, nima o‘zgartirilgani.

Jurnal faqat qo‘shish uchun bo‘lishi kerak: agent yozuvlarni tahrirlay yoki o‘chira olmaydi. Bu nafaqat hodisalarni tahlil qilish, balki agentni yaxshilash uchun ham kerak: rad etilgan so‘rovlar model qayerda ko‘proq xato qilishini ko‘rsatadi.

Hammasini qanday sekinlashtirmaslik

Tasdiqlar juda ko‘p bo‘lsa, ular tezda tor joyga aylanadi. Nima yordam beradi:

• Chegaralar. Ma’lum summagacha qaytarish — avtomatik, undan yuqori — inson orqali. Chegarani model emas, biznes belgilaydi.
• Paketli tasdiqlash. Yigirmata bir xil xatni ro‘yxat ko‘rinishida ko‘rib, birdaniga ma’qullash mumkin.
• Taymaut va eskalatsiya. So‘rov belgilangan vaqtda ko‘rilmasa, boshqa xodimga o‘tadi yoki bekor qilinadi — lekin hech qachon jimgina bajarilmaydi.
• Ishonchni bosqichma-bosqich kengaytirish. Agar biror turdagi amallar uzoq vaqt tahrirsiz ma’qullanayotgan bo‘lsa, ularni tanlab tekshirish bilan avtomatik rejimga o‘tkazish mumkin.
• Tushunarli kartochkalar. So‘rov qanchalik yaxshi rasmiylashtirilgan bo‘lsa, qaror shunchalik tez. Tavsif o‘rniga xom JSON — kechikishlarning keng tarqalgan sababi.

Ko‘p uchraydigan xatolar

• Faqat prompt orqali himoya: «hech qachon tasdiqsiz xat yuborma». Model buni e’tiborsiz qoldirishi mumkin.
• «Ko‘r-ko‘rona» tasdiqlash: inson «Xat yuborilsinmi?» degan savolni ko‘radi, lekin matn va qabul qiluvchini ko‘rmaydi.
• Ma’qullangandan keyin tekshiruv yo‘qligi: so‘rov kutib turganda parametrlar eskirgan bo‘lishi mumkin. Bajarishdan oldin buyurtma hali mavjudligini va summa o‘zgarmaganini tekshiring.
• Minimal huquqlar o‘rniga barcha vositalar uchun bitta umumiy kalit.