Blog

RLHFの過剰修正によってChatGPTが論破芸人型（攻撃過剰）または疑似HSP型（共感過剰）に振り切れる現象を、日本語ネット文化で定着した人名構文の禁止指示をメモリに入力することで制御できることを示す