Jev AI u LiteTMS-u: gdje smo ga stavili u funkciju

Ugradili smo Jeva, AI model kompanije TypeSafe AI, u nekoliko LiteTMS radnih tokova. Može pomoći u uočavanju poruka vozača koje zahtijevaju pažnju, provjeriti odnose li se dva naziva mjesta na isti grad, predložiti kako pročitati uvoznu datoteku i izbjeći prevođenje poruke koja je već na jeziku primaoca. To su male procjene unutar sistema za upravljanje transportom, a ne novi pomoćnik za dopisivanje u kancelariji.

Ako vam je ovo ime novo, naš prvi članak o Jevu objašnjava samu ideju. AI koji generiše tekst piše odgovor na upit. Jev je osmišljen da odgovori na uže pitanje, poput: „Zahtijeva li ova poruka odgovor?“ LiteTMS zatim koristi tu procjenu unutar odgovarajućeg radnog toka.

Poruke vozača koje zaslužuju više pažnje

Vozač može poslati rutinsko ažuriranje, postaviti pitanje ili prijaviti problem. Kancelarija ne bi trebala svaku poruku tretirati jednako hitnom. U chatu s vozačima dodali smo provjeru putem Jeva koja razvrstava dolazne poruke po temi i procjenjuje treba li dispečer reagovati. Može raditi s pisanim porukama i glasovnim bilješkama nakon što se govor transkribuje.

Na primjer, „Kamion ima probušenu gumu“ razlikuje se od „Stigao sam“. Poruka za koju se procijeni da zahtijeva reakciju može se pojaviti u pregledu stavki koje traže pažnju; problem s vozilom takođe može pokrenuti hitno obavještenje. Kancelarija i dalje može pročitati razgovor, odgovoriti i označiti stvar riješenom. Jev ne šalje odgovor vozaču niti odlučuje kako riješiti kvar.

Za poruku o probušenoj gumi, AI procjena može se prikazati u JSON formatu ovako:

{
  "input": { "driver_message": "I have a flat tyre and cannot continue." },
  "jev_assessment": {
    "category": "vehicle_problem",
    "needs_action_probability": 0.94
  }
}

LiteTMS očitava kategoriju i ocjenu potrebe za reakcijom. Problem s vozilom s ovako visokom ocjenom može se prikazati kao hitan, tako da kancelarija zna da treba reagovati.

Nazivi mjesta u nalozima i transportnim dokumentima

Dokument može navoditi „Köln“, dok u nalogu piše „Cologne“. Doslovno poređenje teksta vidi dvije različite riječi, iako obje označavaju isti grad. Dodali smo provjeru putem Jeva za to specifično pitanje u AI potpomognutom unosu naloga i provjerama mjesta za CMR dokumente.

Prilikom unosa naloga, može pomoći pri odabiru između predloženih mjesta ili ostaviti nesigurno podudaranje za pregled. Prilikom provjere CMR-a, pouzdan odgovor da se radi o istom gradu može ukloniti nepodudaranje naziva mjesta koje bi inače bilo označeno. Zaseban AI korak čita dokument, dok Jev procjenjuje podudaraju li se nazivi mjesta.

Za dva naziva grada procjena može izgledati ovako:

{
  "input": { "document_place": "Köln", "order_city": "Cologne" },
  "jev_assessment": { "same_city_probability": 0.92 }
}

Visoka ocjena za isti grad može ukloniti nepodudaranje naziva mjesta. Ostali dijelovi provjere CMR-a ostaju odvojeni.

Uvozne datoteke s nepoznatim zaglavljima

Prenošenje podataka u novi sistem često počinje tabelom. U jednoj datoteci piše „registarski broj“, u drugoj „tablica“, a treća ima zaglavlja koja je teško prepoznati. LiteTMS prvo koristi uobičajena pravila uparivanja. Tamo gdje ta pravila ostave praznine, Jev može predložiti kakvu vrstu zapisa datoteka sadrži i koje kolone pripadaju kojim poljima.

Prijedlozi su označeni kao potpomognuti vještačkom inteligencijom, a osoba koja uvozi datoteku može pregledati mapiranje prije kreiranja zapisa. Ovaj pristup smo povezali s opštim čarobnjakom za uvoz, kao i uvozom CRM poslova i tereta. Povezana provjera može prepoznati kompaniju koja se već nalazi na listi partnera uprkos drugačijem načinu pisanja, pomažući da se izbjegnu dvostruki unosi kada je podudaranje dovoljno pouzdano.

Pretpostavimo da uvezena tabela voznog parka koristi „Unit ref.“ za registarske oznake i „Internal ID“ za vlastite šifre vozila kompanije. Primjeri vrijednosti pomažu Jevu da napravi razliku između ta dva pojma. Kada uobičajena pravila za zaglavlja ostave polje za registraciju praznim, procjena može izgledati ovako:

{
  "input": {
    "columns": {
      "col_0": { "header": "Unit ref.", "examples": ["WX 4821A", "PO 7619K"] },
      "col_1": { "header": "Internal ID", "examples": ["FLEET-17", "FLEET-42"] }
    },
    "field_to_match": "registration_number"
  },
  "jev_assessment": { "column": "col_0", "probability": 0.93 }
}

LiteTMS zatim može predložiti prvu kolonu za registarske brojeve. Kancelarija pregleda to mapiranje prije uvoza zapisa. Ako nijedna kolona ne odgovara, Jev može odabrati „none“, ostavljajući korisniku da sam mapira polje umjesto forsiranja podudaranja.

Mala provjera prije prevođenja chata

Ponekad je poruka već napisana na jeziku osobe koja je čita. Prije pokretanja potpunog prevođenja čata, LiteTMS može zatražiti od Jeva da to provjeri. Pouzdano podudaranje omogućava sistemu prikaz originalne poruke; nesiguran odgovor šalje je na uobičajenu putanju prevođenja. To odluku drži uskom: čitalac i dalje dobija prevod kada sistem ne može sa sigurnošću da ga preskoči.

Uzmimo vozača koji piše „Jestem na miejscu, czekam na załadunek“, što znači „Stigao sam na mjesto, čekam utovar“. Za čitaoca koji koristi poljski jezik, provjera može dati sljedeću procjenu:

{
  "input": {
    "message": "Jestem na miejscu, czekam na załadunek.",
    "reader_language": "pl"
  },
  "jev_assessment": { "language": "pl", "probability": 0.96 }
}

Prepoznati jezik odgovara jeziku čitaoca, pa LiteTMS može prikazati original. Za čitaoca koji koristi engleski, za istu poruku na poljskom i dalje je potreban prevod. Kratak odgovor poput „OK“ nosi manje informacija: kada se jezik ne može pouzdano utvrditi, uobičajena putanja prevođenja ostaje dostupna.

Kako se procjena modela Jev uklapa u LiteTMS

Jev pruža sistemu LiteTMS koristan signal, dok kancelarija zadržava kontrolu nad radom. Integracije su ugrađene i pokreću se kada je sloj odlučivanja na platformi aktiviran, u skladu sa postavkama kompanije. Ako Jev nije dostupan, uobičajeni radni tokovi za čat, dokumente i uvoz podataka nastavljaju normalno raditi.

Tehnički osvrt: TypeSafe Jev, JSON i Java

Za čitaoce koji žele vidjeti šta se dešava ispod površine, korisna polazna tačka je upit koji šaljemo. Kao što pokazuje TypeSafe's quickstart, zahtjev sadrži state, odnosno informacije koje treba procijeniti, i questions, odnosno procjene koje treba izvršiti. Pitanje tipa noul vraća broj između 0 i 1 koji predstavlja vjerovatnoću da je tvrdnja tačna. Pitanje tipa choice bira između ponuđenih opcija, a upravo tako postavljamo upit o kategoriji poruke.

Evo samog pitanja o potrebi za akcijom, uz korištenje identifikatora modela konfigurisanog u našoj OpenRouter integraciji:

{
  "model": "typesafe/jev-1.13",
  "state": {
    "driver_message": "I have a flat tyre and cannot continue."
  },
  "questions": {
    "needs_action": {
      "type": "noul",
      "instructions": "The dispatcher must act on driver_message today: reply, give instructions, inform the customer or arrange help. Routine updates and thanks need no action."
    }
  }
}

Relevantni dio odgovora može izgledati ovako:

{
  "answers": {
    "needs_action": {
      "type": "noul",
      "noul": 0.94
    }
  }
}

Aplikacija čita answers.needs_action.noul i primjenjuje pravilo. LiteTMS koristi prag za akciju od 0.55 kada je u pitanju privlačenje pažnje na poruku vozača. Nakon dekodiranja JSON-a, ista provjera se u Javi može napisati ovako:

Double probability = 0.94; // Value from answers.needs_action.noul
boolean needsAttention = probability != null
    && Double.isFinite(probability)
    && probability >= 0.55
    && probability <= 1.0;

if (needsAttention) {
    System.out.println("Flag the message for dispatcher review");
}

Kod provjerava da li je vrijednost upotrebljiva prije nego što je uporedi sa pragom. U sistemu LiteTMS, procjena kategorije daje drugi dio pravila: problem s vozilom koji zahtijeva pažnju kvalifikuje se i za hitno upozorenje. Model procjenjuje poruku; aplikacija definiše akciju. Ako odgovor izostane, uobičajeni radni tok čata se nastavlja.

Prag zavisi od onoga što slijedi. Za prijedlog kolone pri uvozu, LiteTMS prihvata odabranu kolonu sa vjerovatnoćom od najmanje 0.60; preskakanje prevođenja zahtijeva da jezik čitaoca bude odabran sa vjerovatnoćom od najmanje 0.90. Rezultat od 0.85 stoga može podržati prijedlog kolone koji osoba pregleda, ali nije dovoljan za preskakanje prevođenja u čatu. Svako pravilo odražava posljedicu te konkretne odluke.

Često postavljana pitanja

Ko je razvio Jev AI?

TypeSafe AI je razvio Jev kao model „System One“ za strukturirane odluke. LiteTMS ga integriše u specifične radne tokove kao što su procjena poruka vozača i upoređivanje naziva mjesta.

Za šta se Jev AI koristi u sistemu LiteTMS?

Jev je povezan sa trijažom poruka vozača, provjerom istog grada pri unosu naloga i provjerom mjesta na CMR-u, prijedlozima kolona pri uvozu i provjerom istog jezika prije prevođenja čata. Postavke platforme i kompanije određuju da li je pojedinačna funkcija aktivna u radnom prostoru.

Da li Jev odgovara vozačima ili odobrava CMR dokumente?

Ne. On može označiti poruku vozača koja zahtijeva pažnju i procijeniti da li se dva naziva mjesta odnose na isti grad. Poruku obrađuje osoba, a rezultat da je riječ o istom gradu ne ovjerava čitav CMR dokument.

Šta se dešava ako je Jev nesiguran ili nedostupan?

LiteTMS zadržava postojeći radni tok. Na primjer, nesigurna provjera jezika koristi uobičajeni put prevođenja čata, dok nesiguran prijedlog pri uvozu ostavlja mapiranje osobi na pregled.