【現状無料で使える言語モデルのAPI 3選❗️】
僕はChatHubやDify経由で無料でチャットボット作ってます。

1. Groq Llama3
2. Google Gemini 1.5 Pro
3. Cohere Command R

URLも貼っとく⬇️

Mixtral 8x22b-inst + 諸々の計算資源(主にTSUBAME 4.0)のおかげで､とりあえず100万件くらいは日本語のQ&Aデータセットを生成できました｡

個人的に､量は確保できたので､次は､質を担保するフェーズです｡
(llama3は1000万件の自動生成の指示データを人手でannotation?)
huggingface.co/blog/llama3

Rip so even with a 4090 the best I can do with Llama3 70b model is just over 2 tokens a second. It's so over

LLama3 + Godot = 'living NPCs' 🤯

All running on device. Zero cost. 100% private.

当社エンジニアがブログを更新しました。
「生成AIセキュリティ」シリーズの第5弾です。
「プロンプト経由のRCEについて」と題し、GPTやLlama3などの大規模言語モデルと統合したLLMアプリケーションに対するRCEと対策について解説します。

詳細はこちら▼
mbsd.jp/research/20240…

#mbsd #生成AI

live #Llama3

Venkatesh Konanur and I showed our AI assistant to Bogdan Cristei 🇺🇸🇷🇴🇪🇺 Alex Volkov (Thursd/AI) in the SHACK15 hackathon today. We used Open Interpreter, Groq Inc, ollama with llama3 to have an AI agent control our computer without typing. We aim to shift the paradigm of voice assistants to handle agentic…

Whoa, llama3-8b-8192 is fast on Groq. Look at the response in the simulator (looks like I need to speed up the live request monitor 😅) . cc Groq Inc

Llama3 hackathon at SHACK15 with Cerebral Valley

The vibe down at the ferry building in San Francisco is contagious 🔥⚡️

Meta社のLlama3お試し中。いいね、この爆速での返信と絵文字で親し気に話してくれる感じ、かわいらしくて全人類に気軽にオススメできちゃう。 #Llama3

Meta, Yapay Zekası Llama'nın 3.0 Sürümünü Duyurdu
#meta #llama3 #meta llama

llava-llama3 (multimodal) running on ollama is legit! The responses feel significantly better llava.

#MayLearnings
Hari ini coba eksplorasi Groq + Llama3 70b untuk latihan interview bahasa inggris.
Overall hasilnya cukup memuaskan. Mungkin untuk beberapa case sederhana bisa pakai sebagai alternatif ChatGPT karna Groq ini masih free

Day.4 (msh ketinggalan + kemaren bolong 🥲)

🚀 Launching DeepSeek-V2: The Cutting-Edge Open-Source MoE Model!

🌟 Highlights:
> Places top 3 in AlignBench, surpassing GPT-4 and close to GPT-4-Turbo.
> Ranks top-tier in MT-Bench, rivaling LLaMA3-70B and outperforming Mixtral 8x22B.
> Specializes in math, code and reasoning.…

Llama3-Aloe-8B-Alpha：医疗领域专业模型
7B大小的开源最佳医疗模型，基于通过CoT改进的数据源训练。
模型：huggingface.co/HPAI-BSC/Llama…
论文：arxiv.org/abs/2405.01886

llama3-8B (the smaller, dumber brother):
I'm not sure if this is better or worse

So, I convinced Llama3-70b to break out of the 'assistant' persona. A very interesting conversation followed.

I just released a ollama custom provider for Vercel AI SDK. At the moment, it supports chat/completion with text messages. Tested only with Llama3.

Now instead of the CPU, I use an RTX 4060Ti for inference, and the speed improvement is noticeable.

npmjs.com/package/ollama…

Using Llama3 + Obsidian Canvas to create a meal plan and grocery list for the week.

Running fully locally on my Mac thanks to MLX!

Delle3で試作ーllama3でプロンプト変換-ComfyUIで品質系と人物のプロンプト追加のフロー。
#SDXL #AIグラビア