【免责声明】 本文是基于外部来源的信息重新整理的。请在参考本文内容前核实原始来源。
新闻摘要
以下内容已在网上发布。下面提供了翻译摘要。详情请参见原文。
英伟达发布了指南,展示如何在配备RTX显卡的个人电脑和工作站上本地运行AI驱动的编码助手,从而消除对昂贵云订阅的需求。这些编码助手也被称为”副驾驶”,是一种AI工具,可以提供代码补全建议、解释复杂代码以及实时帮助调试程序。它们正在改变软件开发,帮助有经验的开发人员专注于复杂任务,减少重复性工作,并使新手程序员如学生能够更快地学习和更快地探索想法。RTX显卡最初是为游戏设计的,但包含称为张量核心的专门AI处理器,可以高效地运行这些AI模型。通过在本地运行编码助手,用户可以获得即时响应,无需担心网络延迟,完全保护隐私,因为代码永远不会离开他们的机器,也无需支付月费。流行的选择包括Code Llama、StarCoder和其他开源模型,它们可与GitHub Copilot等商业服务媲美。设置过程涉及下载预训练模型并将其与流行的代码编辑器(如VS Code)集成。这使AI编码工具的使用民主化,特别有利于可能无法负担商业订阅的学生和独立开发者。
来源: 英伟达博客
本站解析
背景和环境
如果您拥有配备RTX显卡的游戏PC,那么您手中就握有一座AI力量的金矿,而您可能并不知晓。英伟达正在向人们展示如何将他们的游戏装置转变为AI编程助手——而且是免费的!不再需要为GitHub Copilot或其他云服务支付每月10-20美元的费用。
将AI编码助手视为拥有超级聪明的编程伙伴,他会观察您的编码过程,并提出接下来应该输入什么,解释令人困惑的代码,并帮助修复错误。这就像在编程中使用了类固醇的自动完成功能!
专家分析
这对学生和新手程序员来说是革命性的原因如下:
隐藏在您GPU中的力量: 您的RTX显卡拥有称为张量核心的特殊处理器,最初是为了让游戏看起来更漂亮而设计的。但这些核心同样适合运行AI模型!这就像发现您的游戏耳机也可以翻译语言——硬件一直都具备这种能力,您只需要合适的软件。
本地与云端 – 为什么这很重要:
隐私: 您的代码永远不会离开您的电脑(这对于学校项目或个人想法很重要)
速度: 无需担心网络延迟 – 建议在您输入时立即出现
成本: 初次设置后完全免费
学习: 您可以无需担心使用限制或账单而自由实验
这些助手能做什么:
• 根据注释自动完成整个功能
• 用通俗的英语解释复杂代码的作用
• 在您的代码出现问题时提出修复建议
• 在不同编程语言之间转换代码
• 为您的函数生成测试用例
补充数据和事实
这些功能取决于您的RTX卡:
• RTX 3060/4060(12GB VRAM):可以运行较小的模型,非常适合基本辅助
• RTX 3070/4070及以上:可以处理更大、更强大的模型
• RTX 4090(24GB VRAM):可以运行接近商业服务水平的模型
流行的免费模型包括:
• Code Llama: Meta的面向编码的AI
• StarCoder: 经过多种编程语言训练
• WizardCoder: 针对遵循指令进行微调
这些可以通过Continue.dev或Ollama等扩展程序与VS Code、PyCharm等流行编辑器集成。
相关新闻
AI编码工具的民主化恰逢其时。随着AI兴趣的爆发,学习编码从未如此重要——也从未如此容易获取。虽然微软等公司收费提供GitHub Copilot,亚马逊提供CodeWhisperer,但开源社区正在免费提供同样强大的工具。
这一趋势与在云服务而非依赖云服务的本地运行AI的更广泛运动相关。我们已经看到这种情况出现在图像生成(Stable Diffusion)、聊天机器人(LLaMA)和现在的编码助手领域。这是用户控制和隐私在AI时代的一部分转变。
总结
您的游戏PC不再仅仅用于玩《堡垒之夜》——它现在可以成为您的个人AI编码导师,全天候提供,完全免费,绝对私密。通过利用RTX显卡内置的AI功能,学生和有抱负的程序员可以访问专业开发人员使用的强大编码辅助。
对于正在学习编码的学生来说,这是一个改变游戏规则的时刻。不再需要独自与语法错误作斗争或在Stack Overflow上花费数小时,您现在可以拥有一个AI助手,解释概念、提供解决方案,并帮助您更快地学习。无论您是在处理学校项目、构建您的第一个应用程序,还是仅仅在学习Python,拥有一个AI编码助手都会将这种体验从令人沮丧转变为乐趣。最棒的是,如果您已经拥有一台配备RTX卡的游戏PC,您只需下载几个软件就可以为您的编码之旅注入强大动力。
公众反应
学生和业余程序员对免费获得AI编码工具感到兴奋。许多人报告说,本地助手帮助他们在不受订阅费压力的情况下更快地学习。专业开发人员也欣赏这种隐私保护的做法,可以用于专有代码。一些用户指出初始设置可能有些棘手,但在线社区正在创建更简单的安装程序。拥有游戏PC的人对发现他们的硬件除了游戏之外还有其他有价值的用途感到兴奋,有些人甚至向父母证明他们昂贵的GPU购买是”教育工具”。
常见问题解答
问:我真的需要RTX卡吗,还是普通显卡也可以?
答:您需要一张NVIDIA RTX卡(20系列或更新),因为它们具有专门用于AI的张量核心。AMD卡和旧的NVIDIA卡无法像RTX卡那样有效地运行这些模型。
问:这和GitHub Copilot一样好吗?
答:对于许多任务来说,是的!虽然Copilot在某些领域可能略有优势,但免费的本地模型也出奇地强大,而且正在不断改进。
问:设置起来有多难?
答:如果您能安装游戏mod,那么您就可以设置这个。这需要下载一些软件并遵循设置指南 – 许多YouTube教程使这变得更加容易。