Aruta LinkedInis

AI ei mõista su ettevõtet iseenesest. Selleks on vaja kolme kihti

Kuidas panna oma AI-süsteem „käituma nagu sinu ettevõte“.→ RAG vs. Finetuning vs. Structured Outputs

Tead seda tunnet, kui mudel on peaaegu kohal…• Aga kasutab aegunud infot.• Või arutluskäik ei kõla nagu sinu inimesed.• Või väljundi vorming lõhub su järgnevad süsteemid.

AI ei „taba“ sinu ettevõtet iseenesest.Sõltuvalt ülesandest vajab see kolme eri asja: sinu teadmisi, sinu käitumist ja sinu struktuuri.

Enamik tiime käsitleb seda ühe probleemina.Seepärast näevad piloodid demos head välja ja lagunevad igapäevatöös.

Nii eraldame kihid päris projektides:

𝗦𝗶𝗻𝘂 𝘁𝗲𝗮𝗱𝗺𝗶𝘀𝘁𝗲 𝗸𝗶𝗵𝘁 → 𝗥𝗔𝗚

Mudel vajab ajakohaseid fakte, seadusi, protsessireegleid, tooteandmeid ja süsteemiinfot.

  • See otsib vajadusel infot sinu allikatest
  • See austab andmepiire ja vastavusreegleid
  • See ei „jäta meelde“ asju, mis muutuvad iga nädal

𝗦𝗶𝗻𝘂 𝗸𝗮̈𝗶𝘁𝘂𝗺𝗶𝘀𝗲 𝗸𝗶𝗵𝘁 → 𝗙𝗶𝗻𝗲𝘁𝘂𝗻𝗶𝗻𝗴

Mudel peab peegeldama, kuidas sinu eksperdid mõtlevad, selgitavad ja otsustavad ning kuidas nad seda väljendavad.

  • See õpib sinu arutlusmustreid ja suhtlusstiili
  • See käsitleb äärejuhtumeid nii, nagu sinu inimesed seda teeksid
  • See rakendab seda järjepidevalt eri olukordades

𝗦𝗶𝗻𝘂 𝘀𝘁𝗿𝘂𝗸𝘁𝘂𝘂𝗿𝗶 𝗸𝗶𝗵𝘁 → 𝗦𝘁𝗿𝘂𝗰𝘁𝘂𝗿𝗲𝗱 𝗢𝘂𝘁𝗽𝘂𝘁𝘀

Süsteem peab sobituma auditeeritavatesse töövoogudesse selgete sisendite ja väljunditega.

  • Mudel täidab määratud välju, silte ja tegevusi
  • Pole vabateksti, mida ülejäänud stack töödelda ei suuda
  • Süsteem saab seda kontrollida, logida, suunata ja selle põhjal tegutseda

Muster praktikas:• RAG = „See on selles ettevõttes tõsi.“• Finetuning = „Nii me otsustest mõtleme ja räägime.“• Structured outputs = „Nii ühendub see SAP-i, CRM-i, KIS-i või sinu pärandsüsteemidega.“

Aga järjekord on oluline.

Esiteks: määra iga AI ülesande jaoks, milline näeb välja kvaliteetne väljund.Siis: vali selle kvaliteedinõude jaoks õige meetod.

Tehnilise valideerimise käigus tuleb enamik mittevastavusi just siin välja.Mitte „Kas AI suudab seda?“, vaid „Milline näeb välja hea väljund ja milline kiht selle lahendab?“

See küsimus määrab sinu arhitektuuri ja kulustruktuuri.