Tri obveze koje preuzimamo
Agent koji djeluje na podacima o opasnostima siguran je onoliko koliko su pošteni podaci koje dobiva. Model koji vedro vrati broj na pitanje na koje ne može odgovoriti prije ili kasnije će nekoga ozlijediti. Zato platforma agentu duguje tri stvari, i duguje mu ih u strojno čitljivom obliku.
- Podrijetlo po vrijednosti. Ne navod u podnožju stranice, nego izvor i licencija koji putuju sa samom vrijednošću, tako da agent koji ponovi broj može ponoviti i njegovo podrijetlo.
- Starost po vrijednosti. Svaka vrijednost kaže kada je izmjerena. Ništa se ne prikazuje kao uživo ili sigurno kada nije, i agent sam može odlučiti je li polje vjetra staro sat vremena dovoljno za pitanje pred njim.
- Odbijanja kao vrijednosti. Kada pitanje izlazi izvan onoga što mjerimo, odgovor je strukturirano odbijanje s razlogom — ne uvjerljiv broj, ne tih prazan rezultat. Neka su pitanja odbijena poimence jer je loše odgovoriti gore nego ne odgovoriti: savjetovanje o protupotresnom ojačanju jedno je od njih i ostaje odbijeno.
Registar je ugovor
Marketinške tvrdnje su jeftine; registar koji kupac može ispitati nije. OrbiVigil objavljuje vlastiti registar sposobnosti — za svaki proizvod i svako tržište, je li sposobnost u pogonu, u beti ili planirana, izračunat u trenutku zahtjeva, a ne uređivan ručno. Svaka tvrdnja o statusu na ovim stranicama postoji da bi se u njemu provjerila. Ako stranica kaže „u pogonu”, a registar kaže „planirano”, stranica je u krivu.
Isto načelo vrijedi za površinu podataka. Događaji s ocjenom pouzdanosti, opažanja te slojevi vjetra i opasnosti koje agent koristi isti su oni koje crta karta uživo; iza konzole nema drugog, laskavijeg skupa podataka. Poslužitelj Model Context Protocol izlaže tu obavijest kao alate, pa je AI asistent može ispitati izravno bez računa.
Što radi danas, a za što je arhitektura građena
Danas. Otvoreni JSON s predmemorijom na rubu za događaje, opažanja, vjetar i slojeve opasnosti je u pogonu. MCP poslužitelj je u pogonu. Registar sposobnosti je u pogonu i računa se pri svakom zahtjevu. Strojno čitljivo podrijetlo, starost podatka i razina pouzdanosti prate sadržaj, a validacija analitičara — nikada automatsko promaknuće — pretvara vjerojatno otkrivanje u potvrđeni događaj.
Građeno za, još ne u službi. Isti je ugovor zamišljen kao ono na čemu djeluje robotsko sredstvo, a objedinjeni standard dostave upozorenja za sve proizvode za opasnosti na planu je razvoja. Oboje je ovdje i na početnoj stranici opisano kao planirano dok ne uđe u pogon.
Zašto je to važno kupcu, a ne samo inženjeru
Od ustanove koja uvodi umjetnu inteligenciju prije ili kasnije se traži da objasni odluku. Sustav u kojem svaka vrijednost stiže s izvorom, vremenskom oznakom i izričitom nesigurnošću sustav je čije se odluke mjesecima kasnije mogu rekonstruirati pred revizorom, regulatorom ili sudom. To nije značajka koju smo dodali za agente; to je razlog zbog kojeg platformu uopće može koristiti javno tijelo.
Povezano: model svijeta koji agenti čitaju; fizički AI — sredstva koja na njemu djeluju.