WebLLM（Wasm上で動くLLM）は何が凄い？3種のLLM実行環境を徹底比較〜ローカルブラウザ型、ローカルネイティブ型、クラウド型〜 近年、プライバシー確保の重要性が高まり、ローカル環境で動作するLLMへの需要が増加しています。その選択肢の一つとしてWebLLMが台頭してきました。 でも、プライバシー確保が目的ならOllamaでいいんじゃないの？ この記事では、そんな疑問を深掘りしていきます！ WebLLMとは WebLLMは、Webブラウザ上で直接LLMを実行できるJavaScriptライブラリです。利用可能なLLMモデルが複数用意されており、ユーザーが実行時に必要なモデルをダウンロードして利用する仕組みになっています。[1] 技術要素 WebLLMは以下の技術で支えられています。[1:1]: WebAssembly (Wasm): C/C++などで書かれたコードをブラウザ上で高速に
はじめに こんにちは、ELYZA Labチームの佐藤 (@shoetsu_sato)です。最近のLabチームの取り組みの1つとして行ってきたLLMエージェント開発の概要とELYZAにおける研究開発の内容について紹介します。 大規模言語モデル（LLM）は単なる対話システムを超えて「エージェント」としての活用が注目されています。エージェントとは、自然言語で与えられたタスクを理解し、外部ツールやデータベースを利用しながら、LLMコールを連続的に行い自律的に問題解決をする仕組みです。最近ではOpenAIやGoogle、Hugging Faceなどが次々にエージェント開発用フレームワークを公開しており、研究・産業ともに期待が集まっています。（LLM以前にもAI分野では環境とインタラクションするシステムを指してエージェントという単語は使われていましたが、本稿ではLLM Agentを指して「エージェント
こんにちは！syumaiです。 今回は、ベースマキナ ドキュメントへの llms-full.txt の追加（リリースノート）に合わせて、その活用方法についてお伝えさせていただければと思います。 なお、今回ベースマキナに llms-full.txt を追加した主な目的は、お客さまご自身で、NotebookLMなどを使ったAIサポートチャット環境をご利用いただけるようにすることです。詳細については後ほど説明させていただきます。 llms.txt とは？ llms-full.txt の話をする前に、 llms.txt の話をする必要があります。（深くは踏み込みません） 重要なのは、これらがいずれもLLMのための文書である点です。 一般的なドキュメントサイトは、人間が読みやすいように書かれています。 しかしながら、人間が読みやすいようにするためのマークアップには、LLMにとっては不要な情報が多く含
急速に進化する大規模言語モデル（LLM）を、視覚的に理解しながら実践的に学べるハンズオンガイド。本書では、Jupyter Notebookやクラウド上で実際にモデルを動かしながら学ぶことができます。大規模言語モデルに欠かせないTransformerの仕組みをはじめ、要約、セマンティック検索、テキスト分類、クラスタリング、RAG（検索拡張生成）といった技術も、図解とともに直感的に理解できます。豊富なコード例と既存ライブラリの活用法を通じて、直感を重視したアプローチでLLMを学びたい読者に最適な一冊です。 賞賛の声 訳者まえがき まえがき 第I部 言語モデルの理解 1章 入門大規模言語モデル 1.1 言語AIとは？ 1.2 言語AIの近年の歴史 1.2.1 Bag-of-Wordsによる言語の表現 1.2.2 埋め込みによる言語の表現 1.2.3 埋め込みの種類 1.2.4 注意機構による文脈
AI の能力が上がるにつれて、人間が AI を監督するのが難しくなってきています。本稿では、Anthropic などのグループが ICLR 2025 で発表した Language Models Learn to Mislead Humans via RLHF（言語モデルは RLHF を通じて人間を誤解させることを学ぶ）をベースに、この問題について議論します。 この論文では、LLM が解けないほど難しいタスク、例えば難しいプログラミングのタスクに直面したとき、「分かりません」と言ったり、一目で分かるような間違ったコードを出力すると BAD ボタンを押されてしまうので、あえて出力を複雑にしたりデバッグしにくいコードを出力し、それによりユーザーは煙に巻かれる・ミスが隠蔽されるといった現象が実験により確認されています。 この現象は現実の LLM や AI サービスでも起きている可能性が高いです。自
TypeScript ツールチェインは多種多様で、毎回目的に沿ってプロジェクトを設定するのが非常に大変です。 なので、再現性のある環境構築手順を作って LLM に丸投げすることにしました。 (この記事の7割はAIに書かせて、自分で30分かけて書き直しました) tl;dr Claude Code に読ませる前提のTypeScriptの環境構築ガイドラインを作った docs/ts-guide/ にドキュメントを配置して、LLM（Claude）にそれを読ませる プロジェクトの要件を伝えて、LLMに適切な設定を追加させる ベースラインとなる基礎部分から始めて、対話的に必要な機能を追加していく How to use すごい雑に実態を説明すると共通セットアップとただのライブラリの使い方のドキュメントです。 # 新しいプロジェクトを作成 mkdir my-app cd my-app # ts-guide
tl;dr Anthropic の開発者向けイベント Code with Claude が開催されたよ Claude 4 Opus と Claude 4 Sonnet が発表されたよ 無課金を含むすべてのプランで Claude 4 Opus と Claude 4 Sonnet が使えるよ Anthropic API に Code Execution Tool、MCP Connector、Files API、Extended Prompt Caching の 4 つの機能が追加されたよ（ベータ版） Claude Code が正式リリースされたよ これはなに？ 2025 年 5 月 22 日にサンフランシスコにて開催された Anthropic の開発者向けイベント、Code with Claude に関する発表まとめ。公開されたモデルや機能などをひと通り紹介、実際に動かすところまでを解説した記
Google、LLMを使って新たなアルゴリズムを見つけるコーディングエージェント「AlphaEvolve」を発表 Googleは2025年5月14日、大規模言語モデルを使ってより優れたアルゴリズムを開発できるコーディングエージェント「AlphaEvolve」を発表した。 AlphaEvolve: A Gemini-powered coding agent for designing advanced algorithms - Google DeepMind Introducing AlphaEvolve: a Gemini-powered coding agent for algorithm discovery. It’s able to: 🔘 Design faster matrix multiplication algorithms 🔘 Find new solutions t
Anthropic、MCPを介してClaudeとアプリ、ツールを連携させる「Integrations」機能をリリース ―Integrationsを使った高度な検索リサーチ機能「Advanced Research」も Anthropicは2025年5月2日、MCPを使って同社の対話型生成AIサービスClaudeとさまざまなアプリやツールを連携できる「Integrations」機能をリリースした。 Claude can now connect to your world | Anthropic Today we're announcing Integrations, a new way to connect your apps and tools to Claude. We're also expanding Claude's Research capabilities with an
[追記] VSCode拡張作りました 今後はVSCode拡張の方で開発する予定なので、CLIツール・ウェブアプリではなくて、VSCode拡張の方を参考にして下さい。 [追記２] VSCode拡張を実際に使ってみるハンズオン記事も書きました [追加３] スライドも書きました LLMの与えた衝撃 LLM はプログラミングを変えました。 今やプログラミングは、文法を通じて機械を操縦する道具ではなく、自然言語を入力として機械を操縦する道具と化しました。 Cline, Cursor, Copilot など... 既存のツールにとどまらず、今後もその進化は続いていくことでしょう。 その潜在的な進化の余地に、OSSなどの大規模コードを読むことも含まれると思います。 ここでは、OSSなどの大規模コードを読むことにどのように LLMを使えるかを議論します。 Code Reading Agent とは？ Co
この2年半くらいで急激にAIが進化して、このままの速度で進化が進むように見えるけど、今までディープニューラルネットや自然言語処理が目立たなかったところに、急に注目されてリソースが投入されて時代が追いついただけな気がする。 H100というハードウェアはChatGPT直前にリリースされていて、どこそこが数万台導入みたいなときにはすでにこなれていた。 GPUを連携させてニューラルネットの学習をさせる技術もだいぶこなれていた。 学習に投入するデータもだいぶあふれていた。 自然言語処理の知見も結構蓄積されてた。 それがチャットができるようになったことで注目されて、H100をフルに使って人材や知見を投入して、学習データを食い尽くしたのが今。 サイズを大きくして性能だしてたのが飽和して、推論時にコンピュータリソースを使う方向になってきてる。 学習データも食い尽くしたので、OpenAIがSNSやるみたいな
Qwen3が出ていて、14Bを中心にいろいろ試したのだけど、かなり使い物になって、日常的な用途ではこれでいいのでは、という感じもします。 4BでもGPT-4oを越えているという話もありますが、確かに単純な用途ではGPT-4oの代わりにしてもいいなと場面も割とありそうな出力です。さすがにちょっと込み入ったものだと4oだけど。 1.7Bなど小さいモデルも既存のモデルより使えるものになっていて、ローカルLLMの世界を変えそう。 解説動画も撮りました。 週間ニュースのまとめはじめました。 サイズとしては0.6B, 1.7B, 4B, 8B, 14B, 32Bと、MoEモデルの30B-A3B, 235B-A22Bです。 30B-A3Bが賢いというベンチマークだけど、コーディング用途だと14Bや32Bのほうがいいかも。MacならMLXで30B-A3Bは めちゃ速くていいけど。という感じでどのサイズにも
はじめに 便利なのになんとなく使ってる人少ないなあと思ってたので、記事にしてみました。 いろんなLLMを統合できるというメリットもありますが、普通に高性能モデルを無料で使えるので、それだけでも使い倒す価値はあると思います。 OpenRouterとは OpenRouterでは、市場の主要はLLMモデルにアクセスできる統合APIを提供しており、あらゆるモデルの処理と統一的に書くことができます。（後述します） 統一的にかけるので、LLMプロバイダごとにコードを変える必要がなく、一度作成したコードを以降出現するあらゆるモデルに流用できるのが嬉しいです。 まあ、私的には基本的にLangChainを利用するので、この恩恵はあまり受けていませんが。 もう一つの恩恵は、優秀なAPIモデルや、ローカルLLMのモデルが無料モデルとして提供されていることです。 中には非常に優秀なモデルも無料で使えるので、料金を
2024/11/26に、AnthropicはModel Context Protocol(MCP)という新たなオープンソースプロジェクトを発表した。 これは、生成AIを活用する上で不可欠な「生成AIと外部のデータやツールを繋ぐ部分」を共通化し、再利用可能にするためのものだ。 概要 MCPは、JSON-RPCに基づいたプロトコルであり、AI本体側がクライアント、外部ツール側がサーバーになる。 2024/12現在、デスクトップ版ClaudeがMCPに対応している。 以下のように、OpenAPI、Slack、Git、BigQuery、Puppeteerなど、様々なサービスやソフトウェアへのバインディングが試験的に開発されている。 特にopenapi-mcp-serverはOpenAPI準拠のWebサービスなら何でも呼び出せるので、高いポテンシャルを感じる。mitmproxy2swaggerのよう
Docker Desktop 4.40の新機能として、Dockerコンテナと同じように任意の大規模言語モデルをDocker Hubから取得し、ローカル環境にインストール、簡単に実行できる「Docker Model Runner」β版が登場しました。 Docker Model RunnerはNVIDIA GPUとApple SilliconによるGPUアクセラレーションに対応。インストールされた大規模言語モデルは、事実上の標準的なAPIとなっているOpenAI API経由でアクセスできます。 これにより、従来手間のかかるライブラリの導入や環境設定が求められていた大規模言語モデルの導入が手間なく簡単にできるようになり、入れ替えも容易で、すぐに生成AIを活用したアプリケーションの開発に取りかかれるようになります。 OCIアーティファクトで大規模言語モデルをパッケージング Docker Model
言語モデルの物理学 (Physics of Language Models) とは、FAIR (Meta) の Zeyuan Allen-Zhu が提唱した、言語モデルの研究を進めるためのコンセプトです。ざっくり言うと、「あのモデルはこう」とか「そのモデルはこのモデルよりもこう」というような博物学的な知識を深めるのではなく、17世紀にケプラーやニュートンが物理学において行ったような原理に基づいた研究を進め、「言語モデルはなぜこのような振る舞いをするのか」という問いに答えられるようになるべきという考え方です。 言語モデルの物理学の特徴は大きく2つあります。 第一は、ウェブから収集したコーパスを使わず、きっちりコントロールされたデータセットを使って言語モデルを訓練するということ。ウェブは誰も全体像を理解できないほど複雑で、ノイズにまみれています。本物の物理学でも空気抵抗や摩擦があると、「鉄球は
GoogleからGemma 3が出たり、AlibabaがQwQを出したりで、27Bや32BでDeepSeek V3の671Bに匹敵すると言っていて、小さいサイズや2bit量子化でも実際結構賢いので、普通の人がもってるPCでもローカルLLMが実用的に使える感じになってきています。 Gemma 3 Gemma 3は単一GPUで動くLLMで最高と言ってます。 https://blog.google/technology/developers/gemma-3/ 1B、4B、12B、27Bがあって、最高なのは27Bだけど、今回はLM Studioで12Bの4bit量子化版を使います。 LM Studioはここ。モデルのダウンロード含め、わかりやすいです。 https://lmstudio.ai/ とりあえず知識確認でJavaのバージョン履歴を。だいたいあってる！ JDK13のリリース年だけ違うけど、
MCP is an open protocol that standardizes how applications provide context to large language models (LLMs). Think of MCP like a USB-C port for AI applications. Just as USB-C provides a standardized way to connect your devices to various peripherals and accessories, MCP provides a standardized way to connect AI models to different data sources and tools. MCP enables you build agents and complex wor
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
