英特尔 Arc Alchemist 驱动更新，AI 图像生成性能迎来大幅提升
it之家 11 月 20 日消息，在 microsoft ignite 开发者大会上，英特尔和微软宣布将合作对英特尔 arc 图形解决方案的 directml 进行优化。 根据实验结果显示，英特尔在更新Arc Alchemist驱动程...
千问开源版在4090显卡上能跑多大参数量的模型？部署配置详解
RTX 4090可本地部署Qwen3-14B（148亿参数）FP8量化版，显存占用13.8–14.9GB；INT4量化支持更大模型如Qwen3.5-27B切分推理；vLLM和多实例隔离方案进一步提升显存利用率。 ☞☞☞AI 智能聊天,...
DeepSeek V4量化模型精度差_INT4/INT8精度损失与校准数据集【量化】
若DeepSeek V4量化后输出混乱、错误增多或准确率下降，主因是INT4/INT8量化精度损失未充分校准，需采用分层校准、领域相关数据集、权重微调补偿、QK_NORM协议及动态范围重映射五种方案协同修复。 ☞☞☞AI 智能聊天, ...
手机上也能用DeepSeek？微信/APP端使用技巧大公开【移动端教程】
官方未推出独立APP，但可通过微信公众号、第三方小程序、官网移动版及Termux本地部署四种方式在手机使用DeepSeek模型。 ☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜如...
LLMLingua: 整合LlamaIndex，压缩提示并提供高效的大语言模型推理服务
大型语言模型（llm）的出现刺激了多个领域的创新。然而，在思维链（cot）提示和情境学习（icl）等策略的驱动下，提示的复杂性不断增加，这给计算带来了挑战。这些冗长的提示需要大量的资源来进行推理，因此需要高效的解决方案。本文将介绍ll...
实测美团 LongCat：快到极致，但是别说追平 DeepSeek
如果你这几天刷社交媒体，应该已经注意到，美团的 longcat-flash-chat 正在频频刷屏，标题大多是将其与deepseek作对比，称美团推出的第一款开源大模型已经追平了deepseek-v3.1。 事实果真如此吗？AI 科技...
从API到私有化部署：企业引入大模型全链路成本分析与架构设计
需系统性拆解全链路成本与架构适配逻辑：涵盖硬件（GPU/存储/网络）、模型服务（Ollama+XInference混合部署）、人力运维（AI Infra/优化/平台三类角色）、合规安全（脱敏/审计/mTLS）及混合云过渡策略。 ☞☞☞...
豆包大模型微调方案详解：从数据准备到部署
豆包不支持大模型微调，因其未开放模型权重、无LoRA/QLoRA接口、不可本地加载；仅提供bot profile、知识库RAG和webhook等非参数化定制方式。 ☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你...
Ollama+OpenWebUI实战_在家搭建免费私人ChatGPT服务器
需采用Ollama为本地模型引擎、OpenWebUI为可视化前端的离线组合方案，通过WSL2+Ubuntu、Docker Compose或纯宿主机三种路径实现零付费、全离线、数据不外泄的私人ChatGPT式服务。 ☞☞☞AI 智能聊天...
HermesAgent配置OpenRouter模型：零门槛接入200+AI
需完成OpenRouter密钥配置才能在Hermes Agent中调用其200+模型服务，包括：一、登录openrouter.ai/keys创建并保存API密钥；二、通过hermes setup命令注入密钥并验证；三、执行hermes...