在人工智能领域,英伟达于12月17日推出了Jetson Orin Nano Super,这是一款手掌大小的生成式AI超级计算机。这款开发者套件售价仅为249美元,以其卓越性能和亲民价格为商业AI开发者、爱好者和学生提供了一个强大的工具。英伟达CEO黄仁勋表示,Jetson Orin Nano Super的性能提升了70%,每秒可执行高达67万亿次的INT8运算。
OpenAI也不甘示弱,推出了最强推理模型o1,在多个基准测试中超越人类专家,预示着通用人工智能(AGI)的进一步发展。在为期12个工作日的线上新品和技术发布活动中,OpenAI宣布将o1向开发者开放,并在开发语音类App的API中纳入了收费更低的先进模型GPT-4o版本。
今年9月,OpenAI发布了o1的预览版o1 preview,称其是第一个具备真正通用推理能力的大模型。在GPQA-diamond测试中,o1的准确率达到78.3%,超过了人类博士专家的69.7%。此外,o1在美国数学邀请赛(AIME)中的正确率达到了83.3%,远超GPT-4o的表现。
12月5日,OpenAI推出了正式版o1,支持多模态输入并具备视觉推理能力。相比预览版,正式版o1的平均响应速度快了60%,犯重大错误的频率减少了34%。在编码、数学和视觉推理任务的一系列基准测试中,正式版o1取得了明显进步。例如,在SWE-bench Verified基准的编码测试中,o1的评分从41.3提高到48.9;在AIME测试中,评分从42跃升至79.2。
o1的新功能还包括结构性输出和函数调用等功能,简化了与外部系统的交互过程。开发人员还可以使用新的reasoning_effort参数微调o1的行为,平衡性能和响应时间。同时,o1的延迟更低,对于给定请求使用的推理token比o1-preview平均少60%。
本周二,OpenAI更新了支持语音助手、实时翻译工具等低延迟自然对话体验的Realtime API,并降低了GPT-4o音频和文本token的费率。
英伟达推出的Jetson Orin Nano Super适合商业AI开发者、爱好者和学生。与其前代产品相比,其生成式AI推理性能提升了1.7倍,内存带宽也提升了50%,达到102GB/s。黄仁勋特意为这款产品录制了一段视频,强调它非常适合希望在生成式AI、机器人技术或计算机视觉领域发展技能的人士。