AI共生 【ローカルLLMの限界】モデル選定とマニュアル翻訳の実践から見えた「コンテキスト解像度」の壁と対策
生成AIは便利だが、時に平然と“嘘”をつく。だからこそ私はクラウド依存を避けるために Local LLM を導入し自分の手元でモデルを動かすことに挑戦した。しかしPDFのページ数が増えた瞬間に精度が落ち前の文書の内容が混ざりモデルを eject して再読み込みするという作業を繰り返すことになった。この章では私が実際に行ったモデル選定PDF解析の試行錯誤そして「Local LLM の限界」をどう乗り越えたかをまとめる。Ryzen AI 9 HX470
