自分のPCに付けるか、Proxmoxに付けてパススルーするか…ローカルLLMとか画像生成とかやってみたい。 ZOTAC GAMING GeForce RTX 5070 Ti SOLID OC 16GB GDD…
続きを読む »NVIDIA GeForce RTX 5070 Ti 到着
カテゴリー: AI・機械学習
GDDRメモリの今後：技術革新と市場展望
GDDR（Graphics Double Data Rate）メモリは、GPU向けに最適化された高速かつ低レイテンシーなDRAMです。従来のDDRメモリと比べると、記憶密度は低いものの、データ転送速度や帯域幅、消費電力効…
続きを読む »OpenAI API「Create assistant」エンドポイント：コード生成・デバッグ支援向けオプション解説
OpenAIのAssistants APIにおける「Create assistant」エンドポイントでは、AIアシスタントを作成する際に様々なオプション（パラメータ）を指定できます。以下では、コード生成やデバッグ支援に焦…
続きを読む »チャンク処理とは
チャンク処理とは、長文や複雑なドキュメントを、意味のまとまりや適切なサイズに分割する前処理手法です。これにより、後続のベクトル化や情報検索、生成モデルへの入力において、精度や効率性が向上します。 なぜチャンク処理が必要な…
続きを読む »NVIDIA NeMo Guardrailsの活用事例とその意義
NVIDIA NeMo Guardrailsは、生成AI（大規模言語モデル）を用いたシステムの安全性と信頼性を担保するためのオープンソースツールキットです。システム全体に対して多層的な制御を実現することで、不適切な出力や…
続きを読む »AIにおけるEmbedding（埋め込み）とは？
1. Embedding（埋め込み）の概要 Embedding（埋め込み） とは、単語、文章、画像、ユーザー情報などを数値ベクトル（多次元空間の点）として表現する手法 です。AIは数値データで処理を行うため、自然言語や画…
続きを読む »LlamaなどのローカルLLMを動かした際のGeForceとM4 Macのベンチマーク比較
LlamaなどのローカルLLM（大規模言語モデル）を動かす際のNVIDIA GeForceシリーズとApple M4チップ（特にM4 ProやM4 Max）の性能比較について、最新の情報を基に詳しく解説します。 M4 M…
続きを読む »AIモデル「DeepSeek-R1」
DeepSeek社は、2025年1月に新たなAIモデル「DeepSeek-R1」をMITライセンスの下でオープンソースとして公開しました。 (Hugging Face)このモデルは、OpenAIのo1モデルと同等の性能を…
続きを読む »OpenAI なぜo3？o2は？
OpenAIの新しいAIモデル「o2」は、実際には提供されない予定です。OpenAIは、次世代モデルとして「o3」を開発しており、o2という名称は英国の通信会社と商標の競合があるため、スキップされることになりました。
続きを読む »Dev Day Holiday Edition—12 Days of OpenAI: Day 9 まとめ
オープンAIが新しいAPIと開発者向け機能を発表 OpenAIは、これまで4年間で200以上の国から200万以上の開発者が参加しているAPIプラットフォームの進化を発表しました。今回の発表では、新しいモデルや機能が多数紹…
続きを読む »