推广 热搜: 行业  机械  设备    系统  教师  经纪    参数  蒸汽 

腾讯微信正式发布多模态大模型POINTS 1.5;阶跃星辰推出语音大模型“Step-1o;预训练时代即将结束|极新早报

   日期:2024-12-28     移动:http://yejunbin01.xhstdz.com/mobile/quote/86048.html

享受着爱和荣誉的人,才会感到生存的乐趣。

文|小鱼

编辑 | 云舒

出品|极新

要点速览

1、 OpenAI 联合创始人 Ilya Sutskever:预训练时代即将结束

2、 腾讯微信正式发布多模态大模型 POINTS 1.5

3、 阶跃星辰推出国内首个千亿参数端到端语音大模型“ Step-1o”

4、 马斯克旗下 xAI 宣布新版 Grok-2 模型向 平台所有用户免费提供

5、我国启动“纸质标准”数字化转型 已立项15个国家标准

6、开源四年 昇思将达2024年中国AI框架新增市场份额30%

▌IPO/投融资

1炭基导电新材料产业链平台焦易数科」完成2000万人民币B轮融资,投资方为山东财金集团

焦易数科专注于数据要素驱动的工业互联网平台研发建设,致力成为炭基导电新材料产业链链主企业。公司开发利用物联网、大数据、云计算和人工智能等现代化信息技术,对炭基导电新材料全产业链生产过程进行深度数据采集、传输、储存、分析和优化决策,并通过数据分析、云上产能和智能化应用,实现炭基导电新材料全产业链的协同创新。

2、创新交互可触智能硬件产品研发商可触未来」完成数百万人民币天使轮融资,由FutureX天际资本领投

可触未来是一家创新交互可触智能硬件产品研发商。公司聚焦交互创新智能硬件的研发,致力于将机器人硬件、多模态交互和内容叙事融合,探索面向成年人的新一代娱乐与情感体。其首款产品LOOI机器人以鲜明的人设、主动互动的特性、以及个性化学习的能力,深受年轻一代的喜爱,帮助缓解日益增加的孤独感、倾诉欲和陪伴需求。

3、智慧农业解决方案提供商左岸芯慧」完成1000万人民币股权投资

左岸芯慧是一家智慧农业解决方案提供商,公司将物联网、卫星遥感、云计算和大数据等新的信息技术应用在第一产业领域,为涉农主体提供物联网环境监控、水肥一体化智能灌溉、数字化农场管理和农产品社区团购、农业供应链金融等IT产品和服务,并为渠道和政府提供数据化品控溯源和区域数字三农大数据监管等整体解决方案。致力于帮助涉农主体实现数字产销一体化的新型经营管理模式。

4通用大模型技术研发商一触互动」完成100万美元天使轮,由华山资本WestSummit Capital领投

一触互动是一家以通用大模型为基础的AI应用层公司,打造海外UP主的AI助理。公司首款产品是一款面向海外红人、UP主的邮件Copilot工具,可以帮助创作者一键管理品牌方的Pitch邮件,更高效与品牌方开展合作。这款工具基于Llama开源模型,并融入了自身特色数据。在处理日常问题时,会优先调用小模型以云端费用,同时也会调用大模型的能力,两者互相结合为红人们提供服务。

▌科技要闻

1、OpenAI 联合创始人 Ilya Sutskever:预训练时代即将结束

继李飞飞、Bengio、何恺明之后,在刚刚的 NeurIPS 2024 中,Ilya Sutskever 最新演讲也来了。虽然时长仅有 15 分钟左右,但内容依旧看头十足。

例如这一句:

Pre-training as we know it will end.

我们所熟知的预训练即将终结。

而之于未来,Ilya 还预测道:

what comes next is superintelligence: agentic, reasons, understands and is self aware.

接下来将是超级智能:代理、推理、理解和自我意识。

那么为何会有如此?我们一起来看看完整演讲。

回顾十年技术发展

Ilya 先是用一张十年前的 PPT 截图开启了这次演讲,那时候深度学习还处于探索阶段。

在 2014 年的蒙特利尔,他和团队(还有 Oriol Vinyals 和 Quoc Le)首次提出了如今成为 AI 领域基石的深度学习理念。

Ilya 展示了当时的一张 PPT,揭示了他和团队的核心工作:自回归模型、大型神经网络和大数据集的结合。

在十年前,这些元素并不被广泛看作成功的保证,而今天,它们已经成为人工智能领域最重要的基础。

例如在谈到深度学习假设时,Ilya 强调了一个重要观点:如果有一个 10 层的大型神经网络,它就能在一秒钟内完成人类能做的任何事情。

他解释说,深度学习的核心假设是人工神经元与生物神经元的相似性。基于这一假设,如果人类能够在 0.1 秒钟内完成某项任务,那么同样的任务,一个训练良好的 10 层神经网络也能完成。

这一假设推动了深度学习的研究,并最终实现了当时看似大胆的目标。

Ilya 还介绍了自回归模型的核心思想:通过训练模型预测序列中的下一个 token,当模型预测得足够准确时,它就能捕捉到整个序列的正确分布。

这一思想为后来的语言模型奠定了基础,特别是在自然语言处理领域的应用。

当然除了“押对宝”的技术之外,也有“押错”的。LSTM(长短期记忆网络)就是其中之一。Ilya 提到 LSTM 是深度学习研究者在 Transformer 之前的主要技术之一。

尽管 LSTM 在当时为神经网络提供了强大的能力,但它的复杂性和局限性也显而易见。

另一个便是并行化(parallelization)。尽管现在我们知道 pipeline 并不是一个好主意,但当时他们通过在每个 GPU 上运行一层网络,实现了 3.5 倍的速度提升。

Ilya 认为,规模假设(scaling hypothesis)是深度学习成功的关键。

这一假设表明,如果你有一个非常大的数据集,并训练一个足够大的神经网络,那么成功几乎是可以预见的。这个观点已经成为今天深度学习领域的核心法则。

Ilya 进一步阐述了连接主义的思想,认为人工神经元与生物神经元之间的相似性给了我们信心,认为即使不完全模仿人脑的结构,巨大的神经网络也能完成与人类相似的任务。

预训练时代即将结束

基于上述技术的发展,也让我们迎来了预训练的时代。预训练是推动所有进步的动力,包括大型神经网络和大规模数据集。

但 Ilya 接下来预测说:虽然计算能力在不断增长,硬件和算法的进步使得神经网络的训练效率得到了提升,但数据的增长却已接近瓶颈。

他认为,数据是 AI 的化石燃料,随着全球数据的限制,未来人工智能将面临数据瓶颈。

虽然当前我们仍然可以使用现有数据进行有效训练,但 Ilya 认为这一增长趋势终将放缓,预训练的时代也会逐步结束。

超级智能将是未来

在谈到未来的发展方向时,Ilya 提到了“Agent”和“合成数据”的概念。

许多专家都在讨论这些话题,认为 Agent 系统和合成数据将是突破预训练瓶颈的关键。

Agent 系统指的是能够自主推理和决策的人工智能,而合成数据则可以通过模拟环境创造新的数据,弥补现实世界数据的不足。

Ilya 还引用了一个生物学上的例子,展示了哺乳动物身体与大脑大小的关系,暗示不同生物可能通过不同的“规模法则”进化出不同的智能表现。

这一思想为深度学习领域的进一步扩展提供了启示,表明人工智能也许可以通过不同的方式突破目前的规模限制。

Ilya 最后谈到了超级智能的前景。

他指出,虽然当前的语言模型和 AI 系统在某些任务上表现出超人类的能力,但它们在推理时仍显得不稳定和不可预测。

推理越多,系统变得越不可预测,这一点在一些复杂任务中表现得尤为突出。

他还提到:目前的 AI 系统还不能真正理解和推理,虽然它们能模拟人类的直觉,但未来的 AI 将会在推理和决策方面展现出更加不可预测的能力。

Ilya 进一步推测,未来的 AI 将不仅仅是执行任务的工具,而会发展成“Agent”,能够自主进行推理和决策,甚至可能具备某种形式的自我意识。

这将是一个质的飞跃,AI 将不再是人类的延伸,而是一个具有独立智能的存在。(量子位)

2、腾讯微信正式发布多模态大模型 POINTS 1.5

12 月 14 日消息,距离 POINT1.0 的发布已经过去两个月的时间,腾讯今天宣布推出 POINTS1.5。

POINTS1.5 仍然沿用了 POINTS1.0 中使用的经典的 LLaVA 架构,由一个 vision encoder,一个 projector 和一个大语言模型组成。

据官方介绍,这一代 POINTS 模型,不仅兼顾了 POINTS1.0 中所坚持的效率优先的思想,同时极大了增强了模型的性能。

▲ OpenCompass Leaderboard 的情况

腾讯表示,POINTS1.5-7B 位居全球 10B 以下开源模型的榜首,超越诸如 Qwen2-VL, InternVL2 和 MiniCPM-V-2.5 等业界领先的模型。

实际应用方面,POINTS1.5 在复杂场景的 OCR,推理能力,关键信息提取,Latex 公式提取,数学,图片翻译,物体识别等几个方面中都有不错的表现。(IT之家)

3、阶跃星辰推出国内首个千亿参数端到端语音大模型“ Step-1o”

12 月 14 日消息,阶跃星辰昨日在公众号宣布推出 Step-1o 千亿参数端到端语音大模型,据称是“国内首个千亿参数端到端语音大模型”。

据阶跃星辰介绍,传统的语音模型采用级联方案,用户输入的语音信息需要先转化为文本,再二次转化成语音输出,这个过程不仅会降低传输效率、更会在过程中折损掉包括情绪在内的信息,导致语音模型时延长反应慢、回答质量和智能水平不足、情感表达空洞刻板的缺陷。但端到端的语音方案,可以实现语音理解和生成的一体化,提升模型智商和情商的上限。

从官方介绍获悉,Step-1o 支持语音、文本等混合形式的输入和输出,可以快速反应并随时打断,它也能深度理解和模仿音色、韵律、方言、个性化的口语表达习惯等声音特征;

Step-1o 能够通过自学和模仿不断提升回复质量,既能提供解决问题的专业建议,也能作为提供高情绪价值的陪伴。此外,Step-1o 还传承了阶跃星辰语言大模型的创作能力。

阶跃星辰透露,近期,Step-1o 将接入跃问 App 端,为用户提供实时语音通话服务。(IT之家)

4、马斯克旗下 xAI 宣布新版 Grok-2 模型向 平台所有用户免费提供

12 月 14 日消息,马斯克旗下 xAI 当地时间 13 日宣布,向所有 平台用户免费推出新版本 Grok-2 模型。与以往一样,Premium 和 Premium + 用户将获得更高的使用限制,并将优先访问未来的任何新功能。

据官方介绍,Grok 利用 平台实时了解世界正在发生的事情。近期,Grok 推出了两个额外的功能来进一步增强这种体验:网页搜索和引用。目前 Grok 利用来自 的帖子和来自更广泛互联网的网页,可为用户的查询提供及时且准确的答案。此外,Grok 还添加了“引用”功能,用户可以轻松深入了解来源,了解更多信息或验证 Grok 提供的信息。

Grok 还宣布在 平台上带来一个新增功能:“Grok”按钮。此按钮会出现在主页时间线上的帖子中,旨在帮助用户发现相关的上下文信息,了解实时事件,并深入了解热门讨论。

▌股市风云

1、我国启动“纸质标准”数字化转型 已立项15个国家标准

国家标准委今天介绍,以新一代信息技术、生物技术等为代表的新兴和关键技术领域高速发展,对标准研制及时性、适用性、易用性提出了新的需求;但以纸质文件为主的传统标准化模式存在研制效率低、周期长、水平不高等问题。由中国标准化研究院牵头,我国目前也全面启动了标准数字化转型研究,覆盖顶层设计、关键技术、场景应用全链条等项目。2024年成功立项15项国家标准,初步奠定了我国标准数字化转型共识与通用技术规则基础。2025年将聚焦标准大模型、智能研制、数据分析等方面开展科研攻关,大力推进国家数字标准馆建设,一体化打造全球领先的标准数据资源中心和标准研究与服务平台。 ( 证券时报 )

2、开源四年 昇思将达2024年中国AI框架新增市场份额30%

12月14日,记者从昇思人工智能框架峰会获悉,昇思MindSpore自2020年开源以来,目前已孵化、支持50多个国内外主流大模型,开源版本已累计获得1100万次下载,覆盖全球130多个国家和地区的2400多个城市,共有3.7万多名开发者参与社区贡献,昇思与360多所高校科研院所展开教学及科研合作,联合1700多位生态伙伴,打造了超过2000+解决方案。据预测,中国AI框架2024年新增市场昇思份额将达30%。华为ICT战略与业务发展部总裁彭红华表示,人工智能框架是AI时代的操作系统与软件底座,未来华为将持续投入昇思MindSpore,坚持以开源方式向业界开放技术创新成果。(证券时报)

▌好文推荐

“大模型TOB现状图鉴。”

回顾2024,大模型经历百模大战,底层技术的不断进化与革新,推动AIGC行业快速从概念走向实际应用场景,特别是在更多垂直场景中扮演着重要角色,如工业、医疗、文娱、消费、金融等场景,AIGC正以其独特优势加速行业革新。同时,出海是中国AI企业破除内卷的共识,在此过程中,如何将中国AI技术推向全球舞台并发展壮大,也是业界需要思考和关注的焦点。

在此背景下,今年2024极新AIGC峰会正式启动,将于2024年12月26日-27日在深圳、香港两地举办。 峰会围绕“重度垂直”这一主题,将邀请AI产业、智能硬件、出海跨境等领域的知名企业家、投资人和专家学者,探讨AIGC在千行百业的深度应用与未来发展趋势,分享AI出海的方向和成功案例,为参会者提供宝贵的启示,助力AIGC行业打破内卷、发现新的增长机遇,共同推动中国AI技术出海,闪耀国际舞台。

点击跳转「重度垂直·2024极新AIGC峰会」~

点击跳转「2024极新AIGC榜单」~

更多干货分享敬请关注我们的公众号与视频号~超多精彩对话内容等待您的解锁!

扫码加入【极新】科技行业交流群,探索科技前沿趋势,本群适合创始人、CXO、行业高管。

关于极新:

极新是垂直于产业AI的创投和行业研究媒体,致力于陪伴和记录科技企业进步和产业成长。已与多家平台和创新企业深度对话和合作,包括华为云、阿里云、百度智能云、金山云、飞书、火山引擎、钉钉、东软、Zoho、容联云、百家云等平台企业,以及智谱AI、百川智能、格灵深瞳、深势科技、百图生科、瑞莱智慧、创客贴、生数科技等高成长公司。

2024投融资趋势追踪:| | | | | |||

本文地址:http://yejunbin01.xhstdz.com/quote/86048.html    物流园资讯网 http://yejunbin01.xhstdz.com/ , 查看更多

特别提示:本信息由相关用户自行提供,真实性未证实,仅供参考。请谨慎采用,风险自负。


0相关评论
相关最新动态
推荐最新动态
点击排行
网站首页  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  鄂ICP备2020018471号