AI共生

AI共生

【ローカルLLMの限界】モデル選定とマニュアル翻訳の実践から見えた「コンテキスト解像度」の壁と対策

生成AIは便利だが、時に平然と“嘘”をつく。だからこそ私はクラウド依存を避けるために Local LLM を導入し自分の手元でモデルを動かすことに挑戦した。しかしPDFのページ数が増えた瞬間に精度が落ち前の文書の内容が混ざりモデルを eject して再読み込みするという作業を繰り返すことになった。この章では私が実際に行ったモデル選定PDF解析の試行錯誤そして「Local LLM の限界」をどう乗り越えたかをまとめる。Ryzen AI 9 HX470
AI共生

【ハルシネーション対策】生成AIの「嘘」を制御する:マニュアル翻訳バッチにLocal LLMを導入した理由と設計

生成AIを利用する際に最も重要なのは、AIを誘導しないことである。ユーザーが意識していないと、AIは欠損した情報を補完し、もっともらしい文章を生成する。以前の記事でも触れたように、存在しない製品の型番や仕様を提示するケースが確認されている。これは特定のモデルに限らず、生成AI全般に共通する構造的な特性である。本稿では、LM Studio を用いて複数の Local LLM を検証した結果をもとに、生成AIの特性と、AIとの共生に必要な視点を整理する。Ryzen AI 9 HX470
AI共生

【Gemma 2×Llama-3-Swallow】クラウドAIの限界をローカルLLMで超える:実務マニュアル自動翻訳バッチの構築全記録

AI共生をテーマに、Geminiとの対話を続けてきた元ITC・セキュリティプレゼンターが到達した、クラウドAI依存の限界とローカルAIへの移行プロセスを公開。Ryzen AI 9 HX470という強力な土台に、Gemma 2とLlama-3-Swallowという「二つの脳」を使い分け、198スレッドの機密情報を完全オフラインでPL法リスク分析へと昇華させる──。情報の主権を取り戻す、真のAI共生の最終回答。
PR広告