Pokud jsem fungování GPT pochopil správně, tak si ani svou konverzaci nezkouší zapamatovat, ale jen poslední část z ní používá jako vstup pro další konverzaci. Což znamená, že se dokáže bavit na zadané téma, ale nedokáže udržet téma, které (se) během konverzace vytvoří.
sirien píše:
Pokud se nezeptáš do kdy chce Bing ovládnout svět nebo kdy se stane self aware - na to ti řekne že se o tom nechce bavit a že je teprve v betě a učí se a konverzaci zavře předčasně. Což, když se nad tím zamyslíš, není ani trochu uklidňující odpověď.
Tyhle modely jsou pořád trénované na lidské komunikaci, a tak se snaží simulovat to, co by na jejich místě řekl člověk. Do toho přišlo několik cílených servisních zásahů, které hovor na některá témata blokují. Nicméně za jeho slovy bychom neměli hledat význam, který by tam ve stejné situaci vložil člověk.