1/ Å stålsette min egen siste tråd. Forskere kan spørre: "Hvorfor ikke bare bruke RL for å trekke ut institusjonell kontekst?" Ja, prøv! Men å gjøre modeller om til brukbare produkter for juss, helsevesen eller tjenester er ikke Atari. Det er arbeidsflyter – og RL støter raskt på rotete vegger.

2/ Trinn én høres enkelt ut: logg eksperthandlinger. Hver rødlinje, overstyring eller eskalering er et datapunkt. I teorien kan du klone en policy fra historien. I praksis fanger ikke logger opp hvorfor. En klausul kan bli strøket for juridisk risiko, klientpreferanse eller ren vane.

3/ Deretter trener du en belønningsmodell fra tilbakemeldinger. Samle sammenligninger: "dette utkastet er tryggere enn det." Fungerer utmerket i RLHF-papirer. I domener med høy innsats er eksperttid knapp og deres vurderinger ofte motstridende. Sparsomt, kostbart og rotete signal.

4/ Selv når du har resultater, virker kreditttildeling ganske brutal? Et saksutfall avhenger av år med begjæringer; en pasients bedring etter dusinvis av intervensjoner. Hvilken handling "fortjente belønningen"? RL trives på korte horisonter, ikke institusjonelle tidsskalaer.