Active-Prompt

Aktiivikehote

Ajatusketjuun (CoT) perustuvat menetelmät perustuvat tiettyyn joukkoon ihmisten tekemiä esimerkkejä. Ongelmana on, että esimerkit eivät välttämättä ole tehokkaita erilaisissa tehtävissä. Tämän ongelman ratkaisemiseksi, Diao ym., (2023) (opens in a new tab) ehdottivat äskettäin uutta kehotetekniikkaa nimeltä Aktiiviohje (Active-Prompt), joka mukauttaa LLM:ää eri tehtävakohtaisten esimerkkiohjeiden mukaan (ihmisten suodattaman CoT-päättelyn avulla).

Alla on esitys lähestymistavasta. Ensimmäinen vaihe on kysyä LLM:ltä joko muutamilla CoT-esimerkeillä tai ilman niitä. k mahdollista vastausta tuotetaan joukolle koulutuskysymyksiä. Epävarmuusmääre lasketaan perustuen k vastaukseen. Epävarmimmat kysymykset valitaan ihmisten annotointia varten. Uusia annotoituja esimerkkejä käytetään sitten kunkin kysymyksen päättelemiseen.

ACTIVE

Kuvan lähde: Diao ym., (2023) (opens in a new tab)