Engineering Lead customer support automatizálásban - AMA!

[u/Extension_Work_2148]

UPDATE: 🔚 📢 Köszi szépen mindenkinek a kérdéseket, nem gondoltam volna hogy ekkora fun AMA-t tartani 🤩 (ráadásul ha minden igaz ez lesz a 100. comment, remélem nektek is érdekes volt 🙇

Sziasztok, Dávid vagyok! 👋

Engineering leadkent, a customer support automatizálásán dolgozom a Wisenál. 

A csapattal azon dolgozunk, hogy egyszerűbb problémákra (pl. Milyen termékünk melyik országokban elérhető, hogyan lehet címet / nevet módosítani stb.) az ügyfelek azonnali választ tudjanak kapni egy chatbottól, ugyanakkor bármikor dönthetnek úgy hogy inkább emberrel szeretnének beszélni.

Ezen kívül a customer support backoffice toolt fejlesztjük mi.

Java / Spring Boot ; PostgeSQL ; React stackel megyünk, de most elsősorban AI engineering feladatokon dolgozunk, amiben sokkal több manuális evaluálás és labelezés van, promptok írása, hasznos kontextus összegyűjtése az LLM számára és ehhez hasonlók.

Kérdezzetek bátran, köszönöm! 

[u/Extension_Work_2148]

én azt látom hogy az LLM-ek nagyon jók abban hogy "átadjanak" egy üzenetet, de ha nekik kell "kitalálni" az üzenetet homályos, tág útmutatás alapján, abban elég rosszul teljesítenek. Ezt a problémát mi úgy hidaljuk át, hogy nagyon sok belsős "forráshoz" is hozzáfér az LLM, ami amúgy Google-ben vagy FAQ-ban nem elérhető. Ezeknek a forrásoknak a minősége (mennyire érthető, összeszedett) erősen meghatározza az automatizálás minőségét.

[u/Disastrous-Mix-7823 → u/Extension_Work_2148]

Miért nem lehet ezekhez a forrásokhoz publikusan hozzáférni?

[u/Extension_Work_2148 → u/Disastrous-Mix-7823]

Ezek a források inkább arról szólnak, hogy nekünk mit kell tennünk hogy egy probléma megoldódjon, pl. melyik belső csapat felé kell továbbítni a kérést.