最新-新浪科技科学探索 07月07日
1.5万元跑通AI创业!AMD迷你机让本地部署AI不再是天价
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

在上海一间工作室里,开发者佘洪宇凭借“启问Spark Query”这款AI工具,帮助用户将模糊需求转化为精准提示词,从而提高效率。这款工具背后,AMD锐龙AI Max+ 395 AI迷你机默默支持着本地AI模型的运行。文章介绍了佘洪宇的创业故事,以及如何利用AMD锐龙AI Max+ 395的强大性能,解决用户在本地运行大模型时的数据安全和隐私问题。通过实际案例,展示了“启问Spark Query”在旅游规划和电脑配置等方面的应用,并展望了AMD AI PC在AI本地化部署领域的未来。

💡 佘洪宇开发“启问Spark Query”的初衷在于解决用户在使用AI时,因无法清晰表达需求而导致效率低下的问题。他通过引导用户梳理思路,将模糊的想法转化为精准的指令,从而提升AI交互的效率。

💻 为了满足用户对数据安全和隐私保护的需求,佘洪宇选择在本地运行大模型。AMD锐龙AI Max+ 395 AI迷你机凭借其强大的性能和高性价比,成为了他的理想选择,能够在本地高效运行大型AI模型。

🚀 AMD锐龙AI Max+ 395在开发过程中展现出卓越的性能,能够快速加载和运行多个模型,大大提高了开发效率。特别是在处理超长上下文的任务时,其优势更加明显,满足了用户在播客转录和长篇文档分析等方面的需求。

🌍 “启问Spark Query”在旅游行程规划和电脑配置清单生成等实际应用中展现出极高的效率。通过引导用户输入详细需求,该工具能够快速生成符合用户要求的提示词,从而提升用户体验和效率。

📈 佘洪宇认为,AMD AI PC的普及将推动AI本地化部署浪潮。如果价格能够进一步降低,将加速高性能AI PC在更广泛的开发者和用户群体中普及,促进整个生态的成熟。

在上海一间充满设计感的工作室里,佘洪宇盯着屏幕上跳动的代码,长舒了一口气。

他刚刚完成了“启问Spark Query”最新版本的调试。

这个由他独立开发的AI工具,正在以惊人的效率帮助用户梳理模糊需求,生成精准的提示词。

在这一切的背后,一台看似不起眼的AMD锐龙AI Max+ 395 AI迷你机,正默默扮演着“幕后英雄”的角色。

一、创业灵感:从痛点中发现机遇

佘洪宇曾在华为等大厂工作,最近的这次创业故事,要从一次跟爸妈的交流说起。

作为一名有着多年AI行业经验的资深从业者,他经常需要与各种AI模型打交道。

然而,当他教父母使用AI时,发现一个普遍存在的问题:

父母在与AI交互时,往往会因为无法清晰、准确地表达自己的需求,导致效率低下,甚至产生令人失望的结果。

这个痛点让佘洪宇陷入了思考。他意识到,随着AI技术的普及,越来越多的人需要与AI进行高效沟通,但缺乏专业的提示词工程知识成为了一大障碍。

为什么不开发一个工具,能够引导用户梳理思路,将模糊的想法转化为精准的指令呢?

说干就干,佘洪宇受父母工作经验中的“表单”启发,开发了“启问Spark Query”的雏形,结果在创作者和文字工作者群体中获得极佳的反响,他们认为这极大地提升了工作效率。

二、技术选型:为何选择AMD锐龙AI Max+ 395?

随着“启问Spark Query”的用户数量不断增加,一个强烈的“刚需”浮现出来:部分用户的提示词可能涉及商业机密或个人隐私,他们迫切需要一个能够在本地运行、保护数据安全的版本。

有了创业想法,接下来就是技术实现。佘洪宇需要一台能够在本地运行大模型的硬件设备,以满足用户对数据安全和隐私保护的需求。

然而,要让“启问Spark Query”在本地有效运行,并保持良好的效果,至少需要一个30B参数规模的Q8量化模型。这对普通用户的本地硬件(尤其是显存)提出了非常高的要求。

正是这个挑战,促使佘洪宇开始寻找市面上最具性价比、能承载大模型运行的AI硬件解决方案。

“我的客户主要使用Windows,因此我的开发环境也必须是Windows。”佘洪宇说,“作为个人开发者,预算必须控制在2万元以内。”

这就要求平台必须具备Windows系统、30GB以上的超大显存、强大的GPU性能和高带宽。

在当前市场上能同时满足所有这些严苛条件的消费级平台,只有搭载AMD锐龙AI Max 300系列处理器的PC。

AMD锐龙AI Max+ 395处理器拥有多达16个超大“Zen 5”架构CPU核心、多达40个AMD RDNA 3.5图形核心Radeon 8060S和一个高达50 TOPS AI算力的AMD XDNA2架构的NPU,这使得它能够在本地高效运行大型AI模型。

“最让我惊喜的是它颠覆性的模型测试效率,凭借其超大的统一内存,我可以同时在内存中加载2至3个30B规模的量化大模型。这意味着我可以实现模型间的无缝切换和即时对比,无需任何等待。仅此一项,就将我的开发效率提升了至少20-30%。”佘洪宇感叹道。

此外,AMD 锐龙 AI Max+ 395 AI迷你机的低功耗和小体积也是吸引佘洪宇的重要因素。“它避免了传统双显卡方案带来的昂贵、高功耗和高噪音等弊端,非常适合在桌面或家庭环境中进行安静高效的开发。”

三、开发过程:AMD锐龙AI Max+ 395迷你机如何赋能“启问Spark Query”?

有了强大的硬件支持,佘洪宇的开发工作进展得非常顺利。

“启问Spark Query”的核心功能,是通过一系列提问式交互,引导用户梳理思路,将模糊的想法转化为精准的指令。

在开发过程中,佘洪宇需要频繁地测试和优化模型。

“以前使用其他设备(如RTX 4090)时,加载和卸载模型的过程非常耗时,严重拖慢了开发进度。”他说,“但AMD锐龙AI Max+ 395的表现让我非常满意。它能够快速加载和运行多个模型,大大提高了我的开发效率。”

特别是在处理超长上下文时,AMD锐龙AI Max+ 395的优势更加明显。“当我需要处理如播客转录、长篇文档分析等需要超长上下文的任务时,AMD锐龙AI Max平台能够轻松满足这种需求,这在目前的消费级硬件中几乎是独一无二的能力。”佘洪宇说道。

四、实际应用:从旅游规划到电脑配置,精准需求一气呵成

“启问Spark Query”正式上线后,很快就展现出极高的效率,向AI提问从未如此简单。

让我们来看两个实际应用案例,看看AMD锐龙AI Max+ 395是如何赋能“启问Spark Query”,帮助用户解决实际问题的。

启问Spark Query也有一个在线版本,以供无锐龙AI Max+ 395本地部署的用户在线体验使用,这里演示使用的就是在线版本。

启问Sparkquery在线体验地址:https://yujianaier.xyz/

案例一:丹麦旅游行程规划

一位用户想为两位从上海出发的老人规划十一假期丹麦7天旅游行程,但很多需求并未明确。

通过“启问Spark Query”,用户被引导输入出发城市、住宿偏好、餐饮标准、景点偏好和交通偏好等信息。

用户经过引导填入关键词需求,包括重点考虑自然风光景点,主要使用火车交通,住宿选择普通酒店,餐饮预算为每餐人均100元人民币等等。

点击“生成提示词”后,在AMD锐龙AI Max+ 395处理器的支持下,“启问Spark Query”快速处理了这些信息,并生成了详细的行程规划提示词,包括国际航班建议、丹麦境内火车路线、住宿推荐、景点安排、餐饮建议和费用估算。

整个过程高效流畅,生成的行程方案详细且符合用户需求,特别是考虑到了老年人的特殊需求,如节奏舒缓、交通衔接顺畅等。

还能一键复制并跳转到DeepSeek等平台。

经过优化后的提示词,DeepSeek可以更准确地理解需求,给出的方案也更具可行性,大家感受下:

案例二:4000元办公电脑配置清单

另一位用户需要配置一台预算约为4000元的电脑,想让AI列一下配置清单。

通过“启问Spark Query”的引导,用户输入了主要用途、外设需求、品牌偏好和预算限制等信息。比如主要用于日常办公,需要一台27英寸显示器,处理器要求使用AMD。

借助AMD锐龙AI Max+ 395处理器的强大算力,本地版的“启问Spark Query”也能迅速生成一份详细的配件清单的提示词,包括处理器、显示器,以及用途需求,总价控制在4000元左右,并且所有配件确保兼容。

输入DeepSeek后迅速获得了一份清单。

该回答既满足了性能需求,又符合预算限制,能够有效提升企业采购计算机时的效率。

作为对比,如果没有“启问Spark Query”及时提醒“显示器”需求时,传统方案会默认将预算全部投入主机,导致最终装机成本突破4000元,或被迫压缩主机配置至性能不足。

五、未来展望:AMD AI PC推动AI本地化部署浪潮

佘洪宇的创业故事,只是AMD锐龙AI Max+ 395在AI本地化部署领域应用的一个缩影。

随着AI技术的不断发展,越来越多的企业和个人开发者意识到,本地部署AI模型不仅能够提高效率,还能更好地保护数据安全和隐私。

“目前1.5万元的价位对于个人开发者和小型团队来说还是有一定门槛。如果价格能进一步降低,无疑将极大地推动高性能AI PC在更广泛的开发者和用户群体中普及,加速整个生态的成熟。“佘洪宇说。

AMD正通过不断的技术创新,为开发者和企业提供更强大、更高效、更经济的AI解决方案,助力更多像“启问Spark Query”这样的创新应用诞生,推动AI技术更好地服务于人类社会。

或许,下一个改变世界的AI应用,就诞生在一台AMD AI PC之上。

【本文结束】如需转载请务必注明出处:快科技

责任编辑:随心

文章内容举报

]article_adlist-->

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

启问Spark Query AMD锐龙AI AI本地化 提示词
相关文章
回顾我的 prompt 能力从小白到熟练的一些重要节点: 防杠叠甲: 1. 仅代表我自己的认知,没啥权威性。 2. 认为提示词那么简单至于搞那么复杂么的朋友,你对 3. ...
最新榨取的ChatGPT System Prompt。 通过越狱往往可以榨取到ChatGPT的系统指令Prompt,但是一有漏洞就会被官方给堵上了,越狱Trick就会失效。刚刚用一个失效的Tr...
✨ 人人都能用好AI,这款GPTs 助你定制高效工作流:Prompt for me 作为一个AI布道者,Hans 在即刻写下数百篇新产品介绍、模型研究和心得,却仍感受到不同领域和...
谷歌家的好东西,可以帮你学会如何写 AI 画图提示词。 除了教你技巧外还会有对应的练习,给你一张图片让你用学习的技巧写提示词复刻图片。 藏师傅第一等级全部 7...
【结项02】AI时代个人生存摸鱼探索指南的大改版,这版从 dev 版本变成 beta 版本了! https://gamma.app/docs/AIGC-Dev-9y7n4vslcp2bol2 ------ 这版 beta 版指...
军装-工农红军
Stability AI: ↩️ Prompt: A cardboard box with the phrase “they say it's not good to think in here”, the cardboard box is large and sits on a theat...
Runway: ↩️ Prompt: An empty warehouse, zoom in into a wonderful jungle that emerges from the ground. (9/10)
AI 高考及格率只有 33%!掀开 AI 的遮羞布一探究竟!
Runway: ↩️ Prompt: An extreme wide low angle establishing shot from street level looking up at a city at dusk. High above the ground a garbage truck...