首页 > 热点 > 互联网 >

每秒40 Tokens!商汤绝影开创原生多模态大模型车载新时代

时间:2024-07-19 21:15 来源:网络 作者: 小千
【千问百科解读】

【ITBEAR科技资讯】7月19日消息,商汤科技在智能汽车领域取得了重大突破。商汤科技联合创始人、首席科学家王晓刚在17日宣布,商汤绝影已成功在行业内率先实现原生多模态大模型的车端部署。这一创新技术的推出,标志着智能汽车在人工智能领域迈出了重要一步。

每秒40 Tokens!商汤绝影开创原生多模态大模型车载新时代

据了解,商汤绝影的车载端侧8B模型在性能上表现出色,首包延迟控制在300毫秒以内,同时推理速度高达40 Tokens/秒,该技术还能够覆盖主流算力平台。为了支持这一强大功能,商汤绝影专门开发了名为“HyperPPL”的计算引擎。该引擎不仅扩展并支持了主流车载计算硬件,还兼容多种主流操作系统,并能适配多个车载芯片的部署平台。

HyperPPL针对车载多人场景进行了优化。这意味着,在车内多人并发使用的情况下,车端多模态大模型的推理效率并不会明显降低,从而确保了用户体验的流畅性。

据ITBEAR科技资讯了解,商汤绝影的技术实力已得到实际应用验证。深圳首条自动驾驶公交线路便采用了商汤绝影的车辆与技术,实现了所有驾驶操作的无人员介入。这一成就不仅彰显了商汤绝影在自动驾驶技术领域的领先地位,也为未来智能交通的发展提供了有力支持。

展望未来,随着技术的不断进步,更高算力的车载芯片即将问世。据悉,明年英伟达将推出上千TOPS算力的车载芯片。基于这一更高算力的计算平台,商汤绝影预计其多模态大模型车端部署方案的首包延迟将大幅降低,同时推理速度也将进一步提高。

举报 0 收藏 0 打赏 0评论 0分享 0

 

 

更多>同类资讯

每秒40 Tokens!商汤绝影开创原生多模态大模型车载新时代

通义千问、GPT-4o 等七款大模型“高考”成绩揭晓:前三名文科破一本线,理科跃二本线

【ITBEAR科技资讯】7月18日消息,近日,上海人工智能实验室揭晓了一场特殊的“高考”成绩,这场考试与众不同,因为它的参考者并非真实的学生,而是7个顶尖的AI大模型。这一评测的初衷在于探索当前大模型的真实能力水平,并寻找其可能存在的问题,以期推动技术的进步。据

07-18

Meta因监管困扰,将不会在欧盟发布新的多模态 AI 模型

【ITBEAR科技资讯】7月18日消息,据Axios报道,Meta公司近日在一份官方声明中透露,他们正计划推出一款先进的多模态Llama模型。然而,由于当前监管环境的不确定性,该模型将不会在欧盟地区发布。Meta在声明中明确指出,即便是在开放许可的情况下,欧盟的客户和公司也将

07-18

中国农大发布“神农大模型2.0”,赋能农业多领域创新

【ITBEAR科技资讯】7月15日消息,7月13日,第八届智慧农业创新发展国际会议在北京顺利召开。会上,中国农业大学隆重发布了“神农大模型 2.0”,标志着我国在智慧农业领域的技术创新迈出了重要一步。相较于先前的1.0版本,“神农大模型 2.0”在技术上实现了显著飞跃,特

07-15

OpenAI“草莓”新项目曝光,AI推理能力迈向更高峰

【ITBEAR科技资讯】7月13日消息,据路透社今日报道,知名人工智能公司OpenAI正在积极推进一个代号为“草莓”的神秘新项目。该项目被视为去年11月宣布的Q*项目的延伸,旨在进一步提升人工智能的推理能力,以更接近人类的智力水平。报道中提到,“草莓”项目具备自主、高

07-13

每秒40 Tokens!商汤绝影开创原生多模态大模型车载新时代

OpenAI 提出通用人工智能五级标准,自认为即将达到第二级

【ITBEAR科技资讯】7月12日消息,人工智能领域的先锋OpenAI近期公开了一套全新的通用人工智能(AGI)五级标准体系,旨在为评估AI技术的进展提供一套明确的框架。据OpenAI内部高管透露,公司当前自我定位为处于这一分级体系的第一阶段,但正迅速向第二级迈进。通用人工智能

07-12

AI护航,老小安康——用数智构筑家庭守护多重方案

近日,2024世界人工智能大会在上海召开。期间,在中国移动数智服务创新论坛上,中移互联网有限公司副总经理庄仁峰介绍了基于超大AI应用基座打造的家庭守护产品——守护宝。该产品面向个人及家庭用户,提供智能位置守护、安全提醒和家庭防诈服务。日常生活环境复杂多变,

07-12

每秒40 Tokens!商汤绝影开创原生多模态大模型车载新时代

谷歌DeepMind CEO直言:当前 AI 综合智力还不及家猫

【ITBEAR科技资讯】7月10日消息,谷歌DeepMind的首席执行官戴密斯·哈萨比斯在近期表示,当前人工智能(AI)的 IQ 智力还没有达到猫的水平。在全球变革研究所举办的“2024年英国未来会议”上,哈萨比斯与英国前首相托尼·布莱尔共同探讨了AI的未来趋势。他直言不讳地指出

07-10

微软放弃OpenAI董事会观察员席位,苹果也不会担任类似角色

【ITBEAR科技资讯】7月10日消息,微软公司宣布了一项重要决定,即放弃在OpenAI董事会中的观察员席位。微软在一份官方声明中强调,OpenAI在过去八个月中取得了显著的“重大进展”,并对其未来的发展方向充满信心,因此不再需要该席位。据ITBEAR科技资讯了解,在一份写给

07-10

富国银行:2030年AI产业用电需求将激增8050%,达652TWh

【ITBEAR科技资讯】7月9日消息,富国银行(Wells Fargo)近日发布了一项令人瞩目的预测,指出人工智能(AI)的电力需求将在未来几年内呈现爆炸性增长。据该银行预测,今年的AI用电需求已达到8太瓦时(TWh),而到2030年,这一数字将飙升至652 TWh,实现惊人的8050%的增长。富

07-09

每秒40 Tokens!商汤绝影开创原生多模态大模型车载新时代

小度亮相WAIC 2024,构建未来全场景智能生活

7月4日,2024世界人工智能大会暨人工智能全球治理高级别会议(WAIC 2024)在上海正式拉开帷幕。其中,超5.2万平方米的大会展区部分,重点围绕核心技术、智能终端、应用赋能三大板块,聚焦大模型、算力、机器人、自动驾驶等领域,集中展示了一批“人工智能+”创新应用成果

07-05

每秒40 Tokens!商汤绝影开创原生多模态大模型车载新时代

中国科学院院士:中国不存在美国AI发展瓶颈短板,电力资源丰沛

【ITBEAR科技资讯】7月5日消息,近日,在2024世界人工智能大会上,中国工程院院士、阿里云创始人王坚就AI发展的瓶颈问题发表了自己的看法。他表示,美国AI人工智能发展的瓶颈是电力,这对中国来说不是问题。王坚院士强调,中国在电力供应方面拥有显著优势,一年的发电量

07-05

商汤“日日新 5o”模型发布,交互效果直追GPT-4o,开启智能新纪元

【ITBEAR科技资讯】7月5日消息,商汤科技今日正式发布了全新的“日日新 SenseNova 5.5”大模型体系,并同时推出了国内首款所见即所得模型“日日新 5o”。该模型以其卓越的交互效果,直接对标业界领先的GPT-4o。“日日新 5o”通过深度整合声音、文本、图像和视频等多种形

07-05

每秒40 Tokens!商汤绝影开创原生多模态大模型车载新时代

百度文心智能体平台全面升级,文心大模型4.0免费开放给开发者

【ITBEAR科技资讯】7月5日消息,百度最近宣布,其文心智能体平台(AgentBuilder)已免费向公众开放了文心大模型 4.0。这一举措意味着,开发者在利用文心智能体平台打造智能体时,可以根据自身需求灵活选择使用文心大模型 3.5 或 4.0 版本。文心大模型 4.0 是在 2023 年 10

07-05

每秒40 Tokens!商汤绝影开创原生多模态大模型车载新时代

B站在WAIC 2024上首次展出自研大语言模型

【ITBEAR科技资讯】7月5日消息,在近日举办的2024世界人工智能大会(WAIC 2024)上,哔哩哔哩(简称“B站”)向全球展示了其自主研发的多项AI技术成果与AIGC多元创意。这些创新涵盖最新定制的AI语音声库、自研的音视频大模型必剪Studio,以及独特的AI动态漫技术,彰显了B站

07-05

每秒40 Tokens!商汤绝影开创原生多模态大模型车载新时代

应用为王!李彦宏称无应用支撑,开闭源模型价值归零

【ITBEAR科技资讯】7月4日消息,在今日盛大开幕的2024世界人工智能大会上,百度公司创始人、董事长兼首席执行官发表了引人注目的演讲。他表示,模型开源与代码开源不同,无法做到众人拾柴火焰高。该首席执行官明确指出,尽管开源大模型在学术及教学等特定领域有其独特的

声明:本文内容仅代表作者个人观点,与本站立场无关。如有内容侵犯您的合法权益,请及时与我们联系,我们将第一时间安排处理

热门推荐