近几年，生成式AI一浪高过一浪，对于各种AI大模型的训练、推理也提出了越来越苛刻的要求。一般而言，推理工作不需要庞大的GPU加速器集群，更适合交给CPU处理器，尤其专门面向服务器和数据中心...【查看原文】
机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。
LLaMA大语言模型编程OpenAI
丨超能力丶 2023-09-20
(标题字数限制好麻烦）本文不涉及任何显卡加速相关内容 （因为没有显卡）撰写本文时使用的 PyTorch 版本为 stable 2.1，Stable Diffusion Web UI 版本为 release 1.6.0。1. 什么是 PyTorch AMPAutomatic mixed precision（自动混合精度）是一个 pytorch 特性，允许运行部分算子时自动将数据精度向更小的类型转换，这样做可以提高吞吐量，加快推理速度，同时在不支持较小精度的场景进行自动精度转换，同时不需要对代码进行复杂的修改
Stable Diffusion编程
没什么用的哭哭猫 2023-10-11
广发证券发布研报指出，GDDR是专为图形处理应用设计的高速内存技术，搭配GPU用于图形处理、数据中心加速和AI等需要高带宽数据处理的场景。HBM是一种新型内存，得益于堆叠结构和垂直TSV互连，HBM具有更高的传输带宽、更高的存储密度、更低的功耗以及更小的尺寸，高带宽优势对大模型训练和推理的效率提升至关重要。
AI大模型
金融界 2024-04-24
- AMD 推动数据中心专业计算性能，推出适用于云原生和技术计算的全新 AMD EPYC处理器 -- AMD发布适用于生成式AI的下一代 AMD Instinct 产品的详细信息，并强调与 Hugging Face 和 PyTorch 的 AI 软件生态系统合作 -今日，在“数据中心与AI技术首映”上，AMD宣布了将塑造未来计算的产品、战略和生态系统合作伙伴，强调了数据中心创新的下一阶段。AMD 与来自 Amazon Web Services (AWS)、Citadel、Hugging Face、Meta
生成式AIHugging Face亚马逊
AMD中国 2023-06-14
生成式AI的新时代下，无论AI训练还是AI推理，都对硬件算力提出了空前苛刻的极高需求，GPU加速器、FPGA/ASIC加速器等各种专用硬件变得异常火爆，在消费级端无论PC还是智能手机都纷纷加入了专用的
生成式AI
2023-12-07
无论环境如何变化，科技如何进步，以人为本的情感传递是这个节日最根本的立足点，也是其传承至今、仍能牵动人心的原因。继承和保留了中秋传统意境和情感表达的基础上，《2024蓝月亮中秋之夜》为这个传统节日带来了更多新叙事。21世纪以来，我国探月工程计划不断推进，从嫦娥探测器上天到玉兔号月球车着陆，千百年对月球的想象正在变成触手可及的未来。
新声Pro 21小时前
2024年，地球的引力场将再次捕获一颗小行星，并成为它的“临时卫星”——这颗迷你月亮被命名为“2024PT5”。2024PT5——一颗来自阿戎小行星带的“旅客”2024PT5是科学家在2024年8月7日通过“地面撞击最后警报系统”（ATLAS）发现的一颗小行星，它的发现引起了天文学界的广泛关注。
来自星星的小胖子 21小时前
据海关发布，海关总署等部门发布关于智慧口岸建设的指导意见，依托国际贸易“单一窗口”一体化数字底座，运用先进设施设备和新一代数字技术，建设以口岸设施设备智能化、运行管理数字化、协同监管精准化、综合服务泛在化、区域合作机制化为主要特征的国际一流现代化口岸。
证券时报 21小时前
华为MateXT自发布后，就一直“遥遥领先”，全球首款三拆屏手机，3.6mm的厚度，10.2寸的屏，就问手机界中还有谁能够办到？而按照一些所谓权威人士的说法，其实华为对MateXT的备货量非常少，100万都不到，可见到时候也许90%的人是抢不到的，那么可以预见，这款手机未来很长一段时间会是一机难求，涨价是必然的。
科技plus 21小时前
我就说嘛，波音飞船测试过程，并不是波音，美国宇航局（NASA）说得那么简单，真的那么一帆风顺，完全没有被困等等，如果真的是这样，还需要龙飞船去接吗？完全不可能使用龙飞船了，两位宇航员也早就回来了。说经历了一些艰难时期，这也说明了他们在上面也并非是一帆风顺的，那究竟是怎么回事呢？
环球科学猫 21小时前
【CNMO科技消息】小米正在为HyperOS2.0（澎湃OS2.0）的发布做准备，预计于10月发布。米粉们正热切地等待着这次更新，但并不是每台设备都能获得更新。
手机中国 21小时前
记者今日从多位知情人士处获悉，华为秋季全场景新品发布会将于9月24日在上海举办，届时智界R7或开启大定，小订通道将于9月24日关闭。另有华为门店销售人员表示，鸿蒙智行北京国瑞城店将于三个月后完成升级改造，占地面积会扩大到2300平米左右，届时可以放置至少10台展车。
鞭牛士 21小时前
薄如纸张的透明电视、会爬楼梯的扫地机器人、蔬菜保鲜三个月的冰箱、能听会说的智能眼镜、轻轻一敲自动开门的洗碗机、识别菜肴自主烹饪的烤箱……2024年德国柏林消费电子展上，一件件家用电器被脑洞大开的灵感和智能技术赋能创新，令人眼花缭乱。柏林消费电子展是全球消费电子和家电领域重要展会，被视为行业技术创新风向标，今年吸引全球1800多家企业参展。
封面新闻 21小时前
北京时间9月18日，据彭博社前记者蒂姆·库尔潘(TimCulpan)透露，苹果公司正在美国生产其A16芯片。
和讯网 21小时前
昨日晚间，索尼放出了PS5Pro的技术展示发布会，十分钟的广告片硬让观众们看了十分钟的倒计时，不过最后也是不枉等待，发布片不仅公布了新的画面规格和技术细节，甚至直接放出主机售价和发售日。Pro无光驱版的售价直接来到了700美元，今年11月7日发售。
游戏智库 21小时前
Copyright © 2024 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1
