生成AIは「嘘をつく」
https://imgur.com/MzPBYHe.png
> 生成AIを使ううえで最大の問題は、平気で"大嘘をつく"ことだ。
> その原因は、生成AIのエンジンである言語モデルの仕組みにある。
> 言語モデルは膨大な量の文書を学習して、与えられた文章（質問）に続く語句を確率的に推測する。
> それらしい文章を作っているだけで、言葉の意味を理解して答えているのではない。
> コンピューターより賢いAIであれば、「計算は得意だろう」と思いがちだ。
> しかし、意外なことに生成AIは計算が苦手だ。

AIが“もっともらしい嘘”をつく理由
https://imgur.com/E5TU7mE.png
> データの中に似た例がなければ、AIは“ありそうな答え”をそれっぽく作るしかないのです。

https://imgur.com/sOshXo8.png
あんたにするために迎合で意図的なウソを選択しているか、確率的な予測で適当な回答をしているだけなのに、
幻覚を見せるAIを過信するバカに付ける薬はねえわ