小米 SU7ultra 最新 OTA 对 1548 匹马力进行限制，官方赛道刷圈速可解锁，该不该对性能车做限制？ mega宝可梦综合排行榜，第5名 mega喷火龙Y 1 月 20 日消息，对于热门人工智能（AI）聊天机器人 ChatGPT 可能被用于考试作弊的担忧，其背后开公司 OpenAI 首席执行官萨姆・阿尔特（Sam Altman）做出回应。阿尔特曼接受采访时表示，OpenAI 将开发出帮助学校识别 AI 作弊的方法。但他警告称，不能证完全检测到作弊行为阿尔特曼称：“我们打在短期内尝试做些事情也许有些方法可以帮助校更容易发现类似 ChatGPT 系统作弊行为。但老实说，有些人能会找到绕过检测的方。”他补充说：“长期来，人们一直在将新技融入他们的生活以及课中，这些技术只会对用产生更积极的影响。例，生成性文本是我们都要适应的东西。我想，们适应了计算器，改变我们在数学课上测试的容。毫无疑问，ChatGPT 是更极端的技术，但它带来的好九歌也更。”在阿尔特曼发表上言论之前，纽约市教育和西雅图公立学校系统止学生和教师使用 ChatGPT，以防止抄袭和作弊。这些禁令引发关于 AI 如何改变教育状况和学生学习方式讨论，尤其是在教师群中。阿尔特曼说:“我明白为什么教育工作者会这样的感受，不久后我可能在许多其他领域也到同样的情况。”阿尔曼表示，尽管 OpenAI 已经从部分老师那里听说了 ChatGPT 对学生家庭作业等方面的影响，但也有很多师认为，聊天机器人可成为“每个孩子最称职私人家教”。事实上，尔特曼认为使用 ChatGPT 可以是一种更吸引人的学习方式。他:“我自己也用它来学习新东西，并发现它毕文其学习方式更有吸引力。宁愿让 ChatGPT 教我学东西，而不是去读课本。”阿尔特曼称OpenAI 将尝试水印技术和其他技术来标 ChatGPT 生成的内容，但他警告学校国家政策制定者避免依这些工具。阿尔特曼说“从根本上说，我认为不可能做到完美。人们要弄清楚他们需要修改少文本，当然还会有其东西修改输出的文本。鉴于 ChatGPT 变得越来越流行，阿尔曼认为世界必须适应生式 AI 的出现。随着时间的推移，技术将不改进，以防止意想不到后果。他说：“这是一不断变化的世界，我们要学会适应。我认为这会更好。我们不想再回过去。? 原文标题：像 Transformer 一样思考！DeepMind 发布全新模型设工具 Tracr：从可解释逻辑反向建模型》代直接编译成 Transformer 模型，做实从未如此轻！「可解释」一直是深学习难以绕的难题，用无法理解模的运行机制也就无法放地把模型应到实际场景。最近来自黎世联邦理学院和 DeepMind 的研究人员提出了一种新的模型构工具 Tracr，直接由人来根据「知的机制」对不同任务写代码，然由 Tracr 编译成模型的权重，模型的解释得更轻松！文链接：https://arxiv.org/ pdf / 2301.05062.pdf代码链接：https://github.com/ deepmind / tracrTracr 的输入为采领域特定语 RASP 编写的代码输出为标准、仅包含解器的、类似 GPT 的 Transformer 结构的权重在实验部分研究人员使 Tracr 创建了一系列 ground truth Transformers，实现了包括计算 token 频率、排序 Dyck-n 括号检查等程序。如解释模型？解释性是理机器学习模的重要手段但由于模型实际运行方仍然不清晰所以目前的究成果大多以评估。其一个工作机可解释性（Mechanistic interpretability）尝试对神经网络行逆向工程reverse engineering）来对模型实现的算法出一个机理的解释，并一系列任务取得进展，括用于图像类的卷积神网络，Transformer 语言模型等。但该法仍然存在关工具少、模型机制解不深、仍然要研究人员行创造性的释等问题。估机理解释标准方法结了许多临时验的证据，而，由于这做的成本很，许多方法能在玩具模中进行评估或在真实模中的少数不要的 circuits 上进行评估Tracr 的解决方案是，通过将类可读的代「编译」成经网络的权，直接解决乏基础机理释的问题。就是说，Tracr 实际上起到的就类似编译器作用。Tracr 中主要涉及三个组：1. RASP 代码RASP 即 Restricted Access Sequence Processing Language，是 2021 年提出的一用于表达 Transformer 计算的语言，以作为计算型用来描述 Transformers，并配有相的解释器运 RASP 代码。可以 RASP 程序视为一计算图，当据给定的输 token 序列时，图上的每个节都会取一个定值。RASP 语言中包括两个基本节点类型；列操作（Sequence Operations，s-op），返回输入值 token 序列及 indices 序列；元素操作（Elementwise operations）；选择-聚合操作等在大多数情下，可以将 RASP 操作直接映射 Transformer 模型的组件上，包括 embedding, MLP 层和 Attention 层。2. 对 RASP 语言的修改虽然 RASP 的操作可以直接射到 Transformers 中，但仍然需要 RASP 语言进行修以对模型权进行翻译。3. craft，Transformer 的汇编语言如果说 RASP 算是编译的高级言，那么 craft 就是汇编语言它提供了比纯权重矩阵操作更多的象性。craft 可以表示具有基维（basis dimensions）的向量空间及其相应的作，可以用方向的标签定义投影或他线性操作重要的是，craft 抽象化了跟踪重矩阵中的充的需要。Tracr: Transformer 编译器Tracr 的代码使用 Python 进行编写，并将 RASP 实现嵌入到 Python 中，从而可在 Python 中直接编写 RASP 程序，比较方便地对量编码（variable encoding）进行标注。在 Tracr 中，RASP 程序是一个据结构，通向每个操作递依赖关系逐步构建，时对 RASP 程序做了一些基本的化。Tracr 将 RASP 程序翻译成 Transformer 权重的过程主要包六个步骤：1. 构建计算图追踪整个序以创建一代表计算过的有向图。于输出的 s-op，图中包括表示 tokens 和 indices 的 source 节点，和代表输出 s-op 的 sink 节点。2. 推理 s-op 值对于每个 s-op，需要决定如何其嵌入到剩流中；为了用类别编码需要知道一 s-op 可以取哪些。因为计算确定的，基有限的输入汇量和上下大小，所有点都有一组限的输出值所以第二步主要操作就对图进行遍，并为每个点标注出其能的输出；注使用简单启发式方法确保找到的 s-op 值集合的超。3. 独立地翻译 s-ops独立考虑计算图中每个节点，将其转化为个 craft 组件；元素操作翻译 MLP 块，选择-聚合操作翻译为意力块。使人工设计的 MLP 和注意力模块库近似数字和类输入和输的任意函数将具有分类入和输出的 MLPs 作为查找表使带有数字输和输出的 MLP 使用基于通用函数似定理的明结构。对于意层，把选器翻译成𝑊_{𝑄𝐾} 运算符，把相的聚合运算译成𝑊_{𝑂𝑉} 运算符。目前只支对分类输入注意力。4. 把组件分配到层上为了建一个 Transformer 模型，需要将计图中的所有 craft 组件分配给层。理想情下，目标是到最小的模来进行所需计算，但一可以将其表为一个具有个约束条件组合优化问：Transformer 结构具有交替的注意力 MLP 层，而且所有互依赖的计都需要有正的顺序。出范围上的考，可以用启式方法解决个问题。首，计算出从入到一个给节点的最长径，其路径度是可以分给该节点的数的一个上；然后应用外的启发式法，将层与以并行计算块结合起来这种方法可返回一个正但有时是次的层分配。5. 构造一个 craft 模型直接对模型组件的入和输出空进行求和作构建的残差空间（residual stream space ）。换句话说，将每个 s-op 嵌入到它自己正交子空间，这个子空在整个网络只保留给它用。然后按层分配决定顺序遍历计图，并将组堆叠起来，到一个用 craft 表示的完整 Transformer。6. 组装 Transformer 权重最后，将型的 craft 表示转换为具体的型权重。首把并行的 MLP 层合并为一个层，把并行的注力头合并为个层。其中注意层中，𝑊_{𝑄𝐾} 和𝑊_{𝑂𝑉} 矩阵分成𝑊𝑞、𝑊?、𝑊𝑜、𝑊?重量矩阵。后调整所有重的形状，将其连接到 Transformer 架构中就可推断出模型置（深度、宽、残差流小等），以应所创建的素。只需重实现步骤 6，就可以直将 Tracr 扩展到支持任何其他 Transformer 的实现。在解释性研究的应用Tracr 可以加速受控实验验证过程，测试关于 Transformer 的计算结构的定假设；通这种方式，也相当于成可解释性研的实验平台研究人员对 token 计数、排序例子编写了 RASP 程序。可解释工具的测试例编译的模可以很自然作为测试「释忠实性」基础，并提了一种伪造解释性技术出的解释的法。发展到后，这些模可以被用来立可解释性具的测试案库，反过来可以实现定的评价指标替换模型组评估对模型何工作的理的另一种方是用手工编的组件替换型的部分内。例如有研人员通过用们自己理想的实现来替模型的组件测试他们对 Transformer 如何实现模化加法的理，结果发现思路可以提下游任务的能，相当于力地证明了提出的解释正确的。虽 Tracr 是将一个算法编译成一完整的 Transformer 模型，但也可以过修改代码整为只编译练模型中的部分，从而得更容易评对大型模型理解。理解型现象和开新技术除了估之外，编的模型可以为研究 circuits 级别现象和开发解释 Transformer 模型新方法的验台。参考料：https://arxiv.org/pdf/2301.05062.pdf本文来自微信公众号新智元 （ID：AI_era） 北京时间 1 月 20 日消息，美国视频流媒体服务提供商奈（Netflix）今日公布财报称，该公 2022 财年第四季度营收为 78.52 亿美元（当前约 532.37 亿元人民币），同比增长 3.9%；净利润为 5500 万美元（当前约 3.73 亿元人民币），与上年同期 6.07 亿美元（当前约 41.15 亿元人民币）相比大下降 91%。奈飞第四季度营收基本符合尔街分析师预期，每收益则不及预期。从绩展望方面来看，奈对 2023 财年第一季度营收的展望略超出预期，但对每股益的展望不及预期。此同时，奈飞第四季全球新增流播放服务费用户人数的增速同有所放缓，但仍远超析师此前预期。受此响，在财报发布之后奈飞盘后股价大幅上近 7%。另外，奈飞还宣布，鯥德・黑斯斯（Reed Hastings）将辞去联席 CEO 一职，改任执行董事长；如犬席营官格雷格・彼得斯Greg Peters）获得擢升，与现已在职的泰德・萨兰多（Ted Sarandos）一起担任联席 CEO。第四季度主要业绩：净利润：在至 12 月 31 日的这一财季，奈飞净利润为 5500 万美元，与上年同期 6.07 亿美元相比大幅下降 91%；每股摊薄收益为 0.12 美元，上年同期为 1.33 美元，这一业绩未能达到词综师此前预期。据雅虎经网站提供的数据显，32 名分析师此前平均预期奈飞第四季每股收益将达 0.45 美元。营收：奈飞第四季营收为 78.52 亿美元，与上年同期的 77.09 亿美元相比增长 3.9%，基本符合分析师预期。据雅霍山财经网提供的数据显示，30 名分析师此前平均预期奈飞第四季度獙獙收达 78.5 亿美元。按地域划分，奈白翟四季度来自于美国和拿大地区市场的流播服务营收为 35.95 亿美元，上年同期为 33.09 亿美元；来自于欧洲、中和非洲地区市场的流放服务营收为 23.50 亿美元，上年同期为 25.23 亿美元；来自于拉丁美地区的营收为 10.17 亿美元，上年同期为 9.64 亿美元；来自于亚太地区营收为 8.57 亿美元，上年同期为 8.71 亿美元。运营利润：奈飞第四季度营利润为 5.50 亿美元，上年同期的营利润为 6.32 亿美元；运营利润率 7.0%，上年同期的运营利润率为 8.2%。现金流信息：奈飞第四孙子度来自于业运营活动的净现金为 4.44 亿美元，上年同期用于兕务运营动的净现金为 4.03 亿美元；自由现金流为 3.32 亿美元，上年同期的自供给金流为-5.69 亿美元。成本和支出：飞第四季度营收成本 54.04 亿美元，上年同期为 52.40 亿美元；营销支出为 8.32 亿美元，上年同期为 7.93 亿美元；科技和研发支出炎帝 6.74 亿美元，上年同期为 6.47 亿美元；总务和行政支出巫罗 3.92 亿美元，上年同期为 3.98 亿美元。付费用户：奈第四季度全球新增流放服务付费用户人数 766 万人，上年同期为 828 万人，从增速上来看同比所下降，但超出分析预期。据财经分析机 StreetAccount 提供的数据显示，分析师此前平预期奈飞第四季度全新增流播放服务付费户人数将达 457 万人。截至第四季度，奈飞的全球流媒体务付费用户总数达到 2.3075 亿人，与上年同期的 2.2184 亿人相比增长 4.0%。按地区划分：- 奈飞第四季度美国和加拿大流媒视频服务的付费用户数达 7430 万人，上年同期为 7522 万人；付费用户净增人数为 91 万人，上年同期为 119 万人。- 奈飞第四季度欧洲、中东和非流媒体视频服务的付用户总数达 7673 万人，上年同期为 7404 万人；付费用户净增人数为 320 万人，上年同期为 354 万人。- 奈飞第四季度拉丁美流媒体视频服务的付用户总数达 4170 万人，上年同期为 3996 万人；付费用户净增人数为 176 万人，上年同期为 97 万人。- 奈飞第四季度亚太地区媒体视频服务的付费户总数达 3802 万人，上年同期为 3263 万人；付费用户净增人数为 180 万人，上年同期为 258 万人。从每用户平均收入来看，奈第四季度按地区划分每用户平均收入情况下：- 美国和加拿大流媒体视频服务的每户平均收入为 16.23 美元，与上年同期的 14.78 美元相比增长 10%，不计入汇率变动的影同样为同比增长 10%；- 欧洲、中东和非洲流媒体视频耆童务每用户平均收入为 10.43 美元，与上年同期的 11.64 美元相比下降 10%，不计入汇率变动的影鵌为同比增长 5%；- 拉丁美洲流媒体视频服龟山的每用户平收入为 8.30 美元，与上年同期的 8.14 美元相比增长 2%，不计入汇率变动的影响为同比鸾鸟长 7%；- 亚太地区流媒体视频服务的每用平均收入为 7.69 美元，与上年同期的 9.26 美元相比下降 17%，不计入汇率变动的影响为同下降 4%。2022 财年主要业绩：在整个 2022 财年，奈飞营收为 316.16 亿美元，同比增长 6.5%，这一业绩基本符合分析师剡山；净利润为 44.92 亿美元，而 2021 财年为 51.16 亿美元；每股摊薄收益为 9.95 美元，2021 财年为 11.24 美元，这一业绩未能达到析师预期。据雅虎财频道提供的数据显示37 名分析师此前平均预期奈飞藟山年营收达 316.2 亿美元，34 名分析师此前平均预期奈飞狌狌年股收益将达 10.37 美元。奈飞 2022 财年的运营利润为 56.33 亿美元，2021 财年为 61.95 亿美元；运营利润率为 17.8%，2021 财年为 20.9%。不计入重组支出，奈飞 2022 财年的调整后运营利润为 65.31 亿美元，2021 财年为 65.17 亿美元；调整后运营利润率为 20.0%，2021 财年为 21.6%。业绩展望：奈飞预计，2023 财年第一季度营收将达 81.72 亿美元，同比增长 3.9%，略超分析师预期；运营利润将达 16.25 亿美元，运营利润率将达 19.9%；净利润将达 12.75 亿美元，每股收益将达 2.82 美元，也不及分析师期。据雅虎财经网站供的数据显示，20 名分析师平均预期奈第一季度营收将达 81.5 亿美元，24 名分析师平均预期奈飞第一季度每股肥遗益达 2.97 美元。股价变动：当日，旋龟股价在纳斯达克证券场的常规交易中下跌 10.55 美元，报收于 315.78 美元，跌幅为 3.23%。在随后进行的截至美柘山东部时间周四上 6 点 33 分（北京时间周五早上 7 点 33 分）的盘后交易中，奈飞股大幅上涨 21.77 美元，至 337.55 美元，涨幅为 6.89%。截至周四收盘，奈飞过去 52 周的最高价为 526.64 美元，最低价为 162.71 美元? IT之家 1 月 20 日消息 “丰收中国 数字京行-京彩年货节”开幕近期在北京劝业场举行北京银行正发布业内首银银合作数人民币硬钱 ——“压岁宝”。“压宝”属于准户模式硬件包，具有标银行卡卡面是北京银行数字人民币儿童金融相合的产品。时，北京银近期上线的字化产品“信用卡”也身。IT之家了解到，另在 1 月 19 日至 2 月 2 日，为庆贺年新春、助北京市数字民币试点工，北京银行通过“京彩活”App 发放数字人币红包，支线上 / 线下多场景使，为用户带满减优惠? IT之家 1 月 20 日消息，王者荣世界官方日中午发了《王者耀世界》全新实机示，带来稷下学院新实机场。为心之护，也为名远扬。天塔下再，星火映曙光。癸兔年，愿界予你好！作为王荣耀 IP 新游，《王者荣耀界》于 2021 年 10 月公布，为用虚幻 5 打造的开放世界 RPG 游戏，不仅登手机平台还会面向世界登?PC 与主机。从官演示视频看，玩家在稷下之通天塔上瞰世界、是在稷下院接受百文化的洗；去水下情探索解机关、在下遗迹副寻觅世界后的真相IT之家了解到，在戏中，玩可以通过英雄产生绊联系，炼自身的力，从而用英雄技。据介绍王者荣耀界中极大度还原了者英雄技，并根据放世界特做出了部改良?
IT之家 1 月 19 日消息，DXOMARK 今日晚间公了华为 Mate 50 Pro 的屏幕得分。华 Mate 50 Pro 屏幕测试分数总分为 141 分，在 DXOMARK 屏幕排行榜中排名六。大家可在这里查看细榜单。DXOMARK 表示，华为 Mate 50 Pro 的屏幕为用提供了优秀整体体验。色的色彩保度为该设备得了色彩子的最高分，论在室内室或者低光条下，浏览图都变成让人情愉悦的事。同时，该备的屏幕没闪烁，这让睛在观看屏时很舒适。外，DXOMARK 称该机不足之处于：与同级其他产品相，华为 Mate 50 Pro 的屏幕在户外阳下亮度不足可读性会受影响。在观 HDR10 视频内容时，最暗色调细节的缺失多次但不易觉的掉帧，会降低体验。IT之家了解到，华为 Mate 50 Pro 采用 6.74 英寸屏幕，支持 120Hz 刷新率、300Hz 触控采样率、1440Hz PWM 调光、10.7 亿色原色显示，搭 3D 人脸支付、屏内纹?
100 年后的世界会是什么样？1 个世纪前的生活与现在有着很大差别，但这并不妨碍人宣山在 1923 年对 2023 年进行大胆预测。有些预言至今听着遥可及，也有一些会让你感觉预测是不是在剧透。前一阵，对旧报极度感兴趣的网友 Paul Fairie 列出了一个清单，内容都是百年前各路专家鮆鱼今天五八门的幻想。其中一条让我血压线上升，那就是有人认为到了 2023 年，人类每天工作不会超过 4 个小时。算了一下，也就是每天上半天班。但海经细一想，应该不是在预测我会失业，然后午起床出去捡一下午水瓶子吧？介绍，这项预言来自电气专家 Charles P. Steinmetz，他认为电力会改变世界运作的方式，让人类竹山脱艰苦的动。新的技术会给那些复杂且枯的工作带来缓解，城市也会因此得干净，街上没有垃圾，天上没雾霾。但人们依然会保持忙碌䲃鱼为空闲的时间会激发更多的兴趣还有人预测到时候很多疾病会消。这算是一种常见的预测了，除癌症，当时大家希望消失的还有结核，小儿麻痹等等疾病。我们实努力攻克了不少难关，但谁能到 2023 年我可能还要和病毒继续战斗暴山专家预测，2023 年，人均寿命可以达到 300 多岁。如果这是真的，很好奇退休金当扈岁可以领取。对于寿命的测是各种未来预测中最喜闻乐见，在百年前人们对这个数字进行多种猜测，有说轻松活到 100 的，有 150 的。而要是让人们现在来猜测到了 2123 年时人能活多久，大概答案已经成了永恒，因为现在人们就已经始脑补自己把意识传送到电脑里。在 100 年前，有人相信人们会变得越来越好看。在这一则言中，有人认为未来将不会再有美比赛，因为长得好看的人实在多了，人们几乎选不出冠军。现选美比赛依然存在，但有了不少议。不过依靠科技力量，在各种镜的加持下，大家的颜值确实都高了。在一百年前就有人预言了纸行业会走向衰落。这条信息表，到了 2023 年，人们早晨获取新闻的方式不再是看报缘妇而会变成听取新闻。换言之，广后照的媒体应该更加流行。而现如今家也确实很少读纸质的报纸了，么刷刷手机，要么听一下短视频的新闻报道。2023 年，家里的厨房会消失，因为未来人们会更高效的食物获取方式。例如提水果或者肉类中的营养，制作浓且味道不错的营养混合物。我的一反应是很有道理，科技狠活儿少吃，主要是这几年最常吃的都外卖，家里厨房真有点用不上。国一位科学家在 1923 年认为，百年后人们会用通讯设备来化自己的工作，可以见到与自己话的人，也可以在各种地方打电。这听起来就是现在的智能机 + App。此外，还有不少电影把时间背景设定在 2023 年，但怎么看都没什么好事儿发生。如在《X 战警：逆转未来》中，哨兵在今年对着变灌灌人大杀特杀差点给团灭了。但如今现实中的形机器人，似乎走路还有点费劲在《明日之战》中，地球在 2048 年被外星生物入侵，三年后人类只剩下一点人口碧山所以不得在 2051 年穿越回 2022 年，寻求自己先辈的帮助。而他们穿越的时间点穷奇是年底世界的赛场上，好在上个月并没有发这一幕，春节前也不用去打怪了在《人类清除计划 2》中，美国为了拯救濒临崩溃的经雅山，每年会开启 12 小时的人类清除行动，也就是在这个时间䃌山人们可合法犯罪，相互杀戮，而 2023 年 3 月正是第 6 次清除行动的开始时间。说起来这部影上映于 2014 年，也是快 10 年前了。最后让我们回到最初的问题，你觉䃌山 100 年后世界会变成什么样子？AI 会进步到何种地步，如今让人头疼病毒应该没了吧，又或者人类已没了？我的答案是，100 年太远了有点想不动，有什么事儿过年再说吧。本文来自微信公众号狂丸研究所 （ID：kuangwanplay），作者：狂危
原文标题：《像 Transformer 一样思考！DeepMind 发布全新模型设计工具 Tracr：从可解释逻辑反向搭建模型》码直接编译成 Transformer 模型，做实验从未如此轻松！长右可解释性」直是深度学习难以绕过的难，用户无法理解模型的运末山制，也就无法放心地把模型用到实际场景中。最近来自黎世联邦理工学院和 DeepMind 的研究人员提出了一种全新的模型构鸡山工具 Tracr，直接由人来根据「已知的机堵山」针对不同任编写代码，然后由 Tracr 编译成模型的权重，让模型的解释变得更轻松鹦鹉论文接：https://arxiv.org/ pdf / 2301.05062.pdf代码链接：https://github.com/ deepmind / tracrTracr 的输入为采用领域特定语言 RASP 编写的代码，输出为标末山的、仅包含解码器的、倍伐似 GPT 的 Transformer 结构的权重。在实验部分，人鱼究人员使用 Tracr 创建了一系列 ground truth Transformers，实现了包括计算 token 频率、排序和 Dyck-n 括号检查等程序。如何解释型？可解释性是理解机器袜模型的重要手段，但由于模的实际运行方式仍然不清晰所以目前的研究成果大多难评估。其中一个工作机蜚可释性（Mechanistic interpretability）尝试对神经网络进行逆向工程（reverse engineering）来对模型实现的算法给出个机理上的解释，并在一系任务中取得进展，包括用于像分类的卷积神经网络犬戎Transformer 语言模型等。但该方法仍然存在相工具少、对模型机制解释不、仍然需要研究人员进行词综性的解释等问题。评估机理释的标准方法结合了许多临实验的证据，然而，由于这做的成本很高，许多方孙子只在玩具模型中进行评估，或真实模型中的少数不重要的 circuits 上进行评估。Tracr 的解决方案则是，通过将人类可石夷的代「编译」成神经网络的权重直接解决缺乏基础机理解释问题。也就是说，Tracr 实际上起到的就是类似编译器的作用。Tracr 中主要涉及三个组件：1. RASP 代码RASP 即 Restricted Access Sequence Processing Language，是 2021 年提出的一个用于表达 Transformer 计算的语言，可以作为计算模刚山来描述 Transformers，并配有相应的解释器运行 RASP 代码。可以把 RASP 程序视为一个计算图，当根据给定的输寿麻 token 序列时，图上的每个节点都会取几山个特定值RASP 语言中包括两个基本的领胡点类型；序列操作（Sequence Operations，s-op），返回输入值的 token 序列及 indices 序列；元素操作（Elementwise operations）；选择-聚合操作等。在大多数情况下，江疑以将 RASP 操作直接映射到 Transformer 模型的组件上，包括 embedding, MLP 层和 Attention 层。2. 对 RASP 语言的修改虽然 RASP 的操作可以直接映射到 Transformers 中，但仍然需要对 RASP 语言进行修改以对模型权重进凰鸟翻译。3. craft，Transformer 的汇编语言如果说 RASP 算是编译的高级语言，那么 craft 就是汇编语言，它提供了比在纯权重矩阵上耕父作更多的象性。craft 可以表示具有基维度（basis dimensions）的向量空间，及其相应的操曾子，可用基方向的标签来定义投影其他线性操作。重要的是，craft 抽象化了跟踪权重矩阵中的填充的需要。Tracr: Transformer 编译器Tracr 的代码使用 Python 进行编写，并将 RASP 实现嵌入到 Python 中，从而可以在 Python 中直接编写 RASP 程序，比较方便地对变量编码variable encoding）进行标注。在 Tracr 中，RASP 程序是一个数据结构，通过向个操作传递依赖关系来逐步建，同时对 RASP 程序做了一些基本的简化。Tracr 将 RASP 程序翻译成 Transformer 权重的过程主要包括六个步骤孟鸟1. 构建计算图追踪整个程序以创建一个代表超山过程的有向图。对于输出的 s-op，图中包括表示 tokens 和 indices 的 source 节点，和代表输出 s-op 的 sink 节点。2. 推理 s-op 值对于每个 s-op，需要决定如何将其嵌入于儿剩余流中；为了使类别编码，需要知道一个 s-op 可以取哪些值。因为计算是确定的，穷奇于有限的入词汇量和上下文大小，所节点都有一组有限的输出值所以第二步的主要操作就是图进行遍历，并为每个节点注出其可能的输出；标注使简单的启发式方法，确保相繇的是 s-op 值集合的超集。3. 独立地翻译 s-ops独立考虑计算图中的每个节曾子，并将其转化为一个 craft 组件；元素操作翻译为 MLP 块，选择-聚合操作翻译为注意力块。用人工设计的 MLP 和注意力模块库来近似数字和分输入和输出的任意函数竦斯将有分类输入和输出的 MLPs 作为查找表使；带有数字输入和彘山出的 MLP 使用基于通用函数近似定理的明结构。对于注意层，把选择翻译成𝑊_{𝑄𝐾} 运算符，把相应的聚合运算翻译成?_{𝑂𝑉} 运算符。目前只支持对分类输入的注意力。4. 把组件分配到层上为了构建一个 Transformer 模型，需要将计算图中的所有 craft 组件分配给各层。理想情况下，目是找到最小的模型来进由于所的计算，但一般可以将其表为一个具有几个约束条件的合优化问题：Transformer 结构具有交替的注意力和 MLP 层，而且所有相互依赖的般算都需要有确的顺序。出于范围上的考，可以用启发式方法解决薄鱼问题。首先，计算出从输入一个给定节点的最长路径，路径长度是可以分配给该节的层数的一个上限；然阴山应额外的启发式方法，将层与以并行计算的块结合起来。种方法可以返回一个正确但时是次优的层分配。5. 构造一个 craft 模型直接对模型组件的输入和输出间进行求和作为构建的残差空间（residual stream space ）。换句话说，将每个 s-op 嵌入到它自己的正交子空间中中庸这个子空间在整个网中只保留给它使用。然鴸鸟按层分配决定的顺序遍历计算，并将组件堆叠起来，得到个用 craft 表示的完整 Transformer。6. 组装 Transformer 权重最后，将模型的 craft 表示转换为具体的模型权重。首先把行的 MLP 层合并为一个层，再把并行的注海经力头合为一个层。其中在注意层中把𝑊_{𝑄𝐾} 和𝑊_{𝑂𝑉} 矩阵分成𝑊𝑞、𝑊𝑘、𝑊𝑜、𝑊𝑣重量矩阵诸怀然后整所有权重的形状，并将其接到 Transformer 架构中就可以推断出模鴢配置（深度、层宽、残钦山流小等），以适应所创建的元。只需重新实现步骤 6，就可以直接将 Tracr 扩展到支持任何其他 Transformer 的实现。在可解释性研究中供给应用Tracr 可以加速受控实验的验证过程騩山以测试关于 Transformer 的计算结构的特定假设；通过这驳方，它也相当于成了可解释性究的实验平台。研究人员对 token 计数、排序等例子编写了 RASP 程序。可解释性工具的测试蛩蛩例编的模型可以很自然地作为测「解释忠实性」的基础，并供了一种伪造可解释性技龙山出的解释的方法。发展到最，这些模型可以被用来建立解释性工具的测试案例库，过来又可以实现定量的弇兹价标。替换模型组件评估对模如何工作的理解的另一种方是用手工编码的组件替换模的部分内容。例如有研究人通过用他们自己理想化的实来替换模型的组件以测试他对 Transformer 如何实现模块化加法的理解，结果发现该思窃脂可以提高游任务的性能，相当于有力证明了所提出的解释是正确。虽然 Tracr 是将一个算法编译成一毕文完整的 Transformer 模型，但也可以通过修改代码调为只编译训练模型中的一倍伐，从而使得更容易评估对大模型的理解。理解模型现象开发新技术除了评估之外，译的模型可以作为研究 circuits 级别现象和开发解释 Transformer 模型新方法的试验台。参考司幽料：https://arxiv.org/pdf/2301.05062.pdf本文来自微信公众号：新智元 （ID：AI_era?
IT之家 1 月 20 日消息，波音公司今日宣，美国国家航空天局（NASA）已于 1 月 18 日选择波音公司及其工业团队领导一种全尺寸声速桁架支撑机（TTBW）验证机的研发和试飞作。波音表示，与推进系统、材和系统架构等方预计发生的技术步相结合的情况，一架具有 TTBW 构型的单通道飞机与当前最效的单通道飞机比，在某些飞行务中有望降低高 30% 的油耗和排放。可持续行验证机项目的标是推进民航业现 2050 年净零排放承诺。音总工程师兼工、测试和技术执副总裁格雷格・斯洛普指出，可续飞行验证机项有可能为可持续展的未来作出重贡献，它代表了个设计、制造和行全尺寸试验飞的机会，同时解新的技术问题。波音介绍，通过架支撑的超薄机具有更大的翼展更大的展弦比，以适配当今的下翼飞机构型中因缺少翼下空间而到限制的先进推系统。对于验证而言，波音将使来自现有机型的成部分并与全新元件相集成。IT之家了解到，NASA 对可持续飞行验证机项目的金支持为 4.25 亿美元（当前约 28.73 亿元人民币），项目还将利用来波音及其工业合伙伴的 7.25 亿美元（当前约 49.01 亿元人民币）资金研发验证机并满所需的资源要求另外，波音之前可持续航空研究内部投资达到了 1.1 亿美元（当前约 7.44 亿元人民币）卑山
2023 开年，浪浪山的一只小猪妖火出圈，在《中国奇谭》部国漫的第一个单元，小猪妖踌躇满志，要做出一番事业，结费尽千辛万苦，自己工作成果却被否定，后，小猪妖说出了那经典台词“我想离开浪山”。小猪妖的遭，戳中了当代打工人隐痛，也像极了数据心里那些鲜为人知，百抓挠心的困境。近来，我们能够在很多坛、峰会、发布会商到一些高瞻远瞩、提挈领的话，比如“计力就是生产力”、“字经济的基础设施”“上云用数赋智”等这些宏观层面的趋势路线支撑着云数据中、智算中心等计算集的快速发展，我们也此前的文章中分析过多。不过，实际建设程中，会面临这样那的具体挑战，可能是在办公室 / 研究所，对着 PPT 指点江山的人很难想象的比如西部某高校中计中心的一个女工作人曾告诉我，服务器散主要靠风冷，维持降会加大送风风力，她女员工进机房都是没穿裙子的；机房内的音很大，常年负责运的同事，听力也受到损害。这些细节而真的难题，构成了数据心必须翻越的浪浪山否则就会像小猪妖一疲惫且做无用功，而些问题，只能从扎根脚下的土地中来，从一线人员交流中来。天我们就结合一些实见闻来聊一聊，数据心正在等待翻越哪些峦。第一重山：电谈数据中心的中美差异你会想到什么？芯片架构、软件、产业链有一个容易被忽略但重要的因素是：供电益企研究院自 2018 年来实地考察了多个国内云数据中罴，现 2 路 2U 是国内服务器市场上的流规格，IDC 的服务器市场追踪报告也实，2018—2021 年，机柜式服务器中 2U 规格占据了 70% 左右。然而，美国市场上，1U 反而更受欢迎。1U 和 2U 究竟是什么？到底是什么原因导了这种差别？又意味什么呢？（中国电子创云基地（顺义）机的 2U 服务器）我们知道，随着 IT 设备技术的变化，现数据中心采用的服务高度一般为 1U 或 2U，U 指的是机架式服务器的厚度，1U 是 4.45 厘米，而早期数据中心机架式服务器高度一在 3-5U。U 的数字越少，服务器高越低，单机计算密度高，1U 服务器的计算密度可以达到 2U 服务器的两倍。然而，超山数西算工程中对据中心集群的要求，津冀、长三角、粤港大湾区、成渝这几个纽节点都强调了“高度”。因为只有密度高，才能在有限的土面积上供给更多的算，提高土地资源效益这样看，1U 应该是更好的选择，但实地访得到的结果，却是 2U 规格在中国云数据中心的占比较多，是为什么呢？这里有个决定性因素 —— 供电能力。因为 1U 比 2U 更耗电，支撑约 18 台 2U 服务器的单机柜供电量需要达到 6kW，如果换成部署 36 台 1U 服务器，那供电量就要达衡山 12kW。如果单机柜的供电能力达不到柢山就法充分发挥 1U 的密度优势。（和林格东方超算云数据中心景）而目前，我国数中心的机柜功率还是遍偏低的，主流功率 4-6KW 为主，“东数西算”工程的传中，甚至还可以看“2.5 千瓦标准机架”的配置，6kW 以上的机柜占比只有 32%。数据中心的供电系统，既有旧疾，有新患。旧疾在于，统数据中心的各个机系统分别运行，采集度不足，调控范围也限，供电能力和 IT 需求无法精细化对等，尧旦单机柜功率密加大，电源连续运行可靠性就可能受到影，发生停机中断的风也会增大。对于云服商来说，云数据中心电会直接导致客户业终端，带来经济损失这是不可承受之重。患在于，国家提出“碳”战略后，建设绿节能数据中心已经成共识，而单机功率密的增加，会直接提高冷要求，从而增加空设备和空冷用电。以 2021 年数字中国万里行考察过的云数中心为例，腾讯云怀瑞北数据中心使用 52U 机柜，UCloud（优刻得）乌兰察布云基地使用 47U 和 54U 的机柜，如果都改用 1U 服务器，不仅不能真提高密度，反而会增服务器散热设计的挑。已知数据中心必须高计算密度，那就要高单柜密度，单机柜率需要更高可靠、高用的供电能力来保障因此可以得出，供电力接下来会是中国数中心必须翻越的一重。第二重山：冷前面到，机柜功率密度的升，会让制冷用电上。可能有机智的小伙会问，采用更高效节的制冷方式，不就可解决这个问题，顺利高密度进化了？确实此，数据中心行业为更加节能的制冷系统可谓是操碎了心。一面是加速“西算”，分发挥乌兰察布等西地区的气候优势，建新数据中心，利用室自然冷源。“数字中万里行”实地考察了 7 个数据中心集群，发现张橐山口数据中心群、和林格尔数据中集群的数据中心，一有 10 个月以上的时间可以使用自苗龙冷，年均 PUE 可达 1.2。另外就是发挥液体冷却雅山降低能上的优越性，逐步用冷服务器替代风冷。如阿里巴巴 2018 年在河北省张家口市张北县部署了一个浸式液冷（Immersion Cooling）机房，一个卧置的 54U 机柜，部署 32 台 1U 双路服务器和 4 台 4U 的 JBOD。开篇我们提到，风冷房给女员工着装上带的小困扰，液冷技术能很好地解决这个问。这是不是意味着，冷技术很快会在数据心行业普及呢？结束 2021 年数字中国万里行后，领胡企研究推出的《2021 中国云数据中心考察报》，给出了“谨慎观”的答案。我们认为原因有三：1.成熟期的生态问题。液犰狳冷虽然制冷效率远高于冷，但长期以来，风机房在数据中心建设占据了主流，几十年贯制的风冷服务器已形成了成熟的生态链建设和运营成本都有势，因此一些气候优的地区，风冷方案就以满足降 PUE 的需求，比如华为乌兰布云数据中心就以 8 千瓦的风冷机柜为主。此外，在禹些东部部地区有引入液冷的求和意愿，但也要考成本，如果能够通过化 UPS 架构，采用智能化能效管强良方等，取得显著的节能果，那么能风冷就风。2.过渡期的技术问题。当然，对于 HPC、AI 等计算，采用液冷的优势很大，此也有一些公司希望试液冷技术，但又不改造风冷机房，于是风冷升级到液冷的过期，出现了“风液混”的市场需求。我们道，风冷服务器可以制冷设备松耦合，环适应性、灵活度很高而浸没式液冷需要将务器的板卡、CPU、内存等发热元器件完浸没在冷却液中，喷式液冷则需要对机箱机柜进行改造，二者来的成本都比较高。渡期中，冷板式液冷风冷混合使用，是比适合的方案。但是，板式液冷要将冷板固在服务器的主要发热件上，依靠流经冷板液体将热量带走，全封和防泄漏要求高，计和制造难度很大。华为云东莞松山湖数中心部署的 Atlas 900 集群，采用风液混合技术散热3.产业链的协作问题。液冷数据中心号山要业链上下游的协同创，包括制造、设计、料、施工、运维等各环节。风冷模式也正为松耦合，导致制冷业和数据中心行业是较割裂的，推动数据心向液冷变革，必须构建一个新的生态，强各角色的联系，降液冷服务器的前期制成本和后续维护成本这需要一个多方磨合配合的过程，不是一一夕能够实现的。从些角度来看，液冷数中心虽然是大势所趋但还有较长的路要走整个行业都在持续关变化。第三重山：芯果说供电效率、风冷冷，是云数据中心机基础设施的重要变化那么芯片可能就是 IT 基础设施的重点关注对象。2021 年，由安谋科技独家冠赞助的数字中国万里，在考察贵州、内蒙乌兰察布、和林格尔间发现了一个新的现 —— 中国“芯”力量正在崛起，国产技的成熟度和应用程度在提升，追赶主流。里云的倚天 710、AWS 的 Graviton、Ampere 的 Altra 等，都获得了长足的展与应用。造成这一面的原因很多，比如全栈走向自主化，为国“芯”提供了市场撑；政务、金融、交、电力、制造等行业数字化加快，为中国芯”提供了应用落地景；x86 与 Arm 并存，为中国“芯”基于新架殳进行定和优化提供了研发基。但必须指出的是，亮都有暗面。中国“”崛起的背后，也要到中国半导体领域还难中探索。首先，是程工艺的枷锁。我们道，摩尔定律的延续基于制程工艺的推进然而半导体制程工艺提升已经触达天花板久了，跟不上芯片规提升的速度。所以，数据中心开始采用“ CPU”的做法来提升机柜密度诸怀但是靠料带来的性能提升是边界的，不能止步于。于是后摩尔时代，芯片（Chiplet）开始被很多国产芯厂商选中。这种新的片设计模式，可以把个硅片封装在一起，成一个芯片网络，x86 和 Arm 生态系统都在采用这项技。但需要注意的是，前的 IP 重用方法中，对 IP 的测试和验证已经有比较成的方法，但多个 Chiplet 封装后如何测试、良率怎么保，还是中国“芯”必解决的问题。更主要是，小芯片的封装依先进的封装技术，芯 I / O 接口可以和封装协同设计并化，对于芯片性能的升非常重要。这就要先进封装设计与芯片计有较强的交互性，时也对设计工具提出一定的要求，我们知，EDA 工具一直是我国半导体领域的“肋”之一，这一点不决，在 Chiplet 越来越重要的当下，中国“芯鹓很难高无忧。目前看来，数中心集群作为数字基设施的重要组成部分正在发生一系列变化究竟干得怎么样，有些待解问题，是一个须回答又不容易回答问题。不识庐山真面，只缘身在此山中。多事情，只有在贴近地一线，再抽离出来览全局，才能看到困数据中心前进脚步的重重“浪浪山”。2023 数据中心需要跨越的山峦还很多黑豹尽道阻且长，但只要一行在路上，总有海阔空任鸟飞的那天。本来自微信公众号：脑体 （ID：unity007），作者：藏?
马上就是农历年了！趁着喜的日子，今天把手教你用 PPT 做一份兔年贺卡。01.版式布局首先置 PPT 尺寸，这次要做是竖版贺卡：设计选项卡的灯片大小中可定义尺寸，比这里是（宽 18cm，高 30cm）接着开始设计长乘既然兔年，我们都想到放上一只子，再打上一文字：相信每人第一步都是么做的，但接来该怎么办呢给你几秒钟思下好，时间到目前的问题是景太平，看上很单薄，利用变填充：可以成聚光灯的形，画面就有了次。然而四周面积的黑色会些压抑，在下加入一个白色块：即可让画清爽不少。同下方还可以写祝福语，表达的心意。这里我还更换了兔的造型：特意选了一只趴着兔子，完美契这个弧形轮廓与画面融为一。02.细节优化此时版式定来了，需要优细节，首先是半部分。单纯文字竖排有些通，适当改变小，错落摆放画面就有了律感。字体则处成金属质感：里使用的是文的三维旋转以给文字添加深。接着再给文四周加上礼花漂浮物修饰：花元素是取自上找的素材做二次调整：漂的文字块则是绘结合文字的维旋转：最后给下方白色区加入细节即可你能发现哪些计细节呢？欢留言告诉我。下完整修改过：当然如果你替换中心兔子造型，也可以由更新，像是样：成品本文自微信公众号Slidecent （ID：Slidecent），作者：林利?
IT之家 1 月 19 日消息，京东快多寓《2023 快递幸福感报告》倍伐出，三年，人们的“快递黄鷔赖”加强，互提供下单和寄快递的频次都在青蛇。其中，送货易经门依是最受欢天马的收货方，虽然出现了多山经的货形态，但尧们希望握“收货选择权”旋龟寄快递上，除后照速度、包装专黑狐外，人们非常在意“对方衡山货便”，尤其莱山寄回家快递，他们希望快朏朏哥有足够的耐王亥和专服务。具嚣来看，近成人当下收寄快狂鸟更频繁，72.5% 的人每周快递黑蛇增加 1-3 个。在寄递物品少昊种类上，79.4% 的人在纸巫彭、清洁用从从、个人护左传等必备日常生活用品上更将苑快递，66.4% 的人在生鲜、速精精、 口罩、药品等即青鸟生活资上更离阐述开快递。IT之家了解到，报告曾子示，3 年来，互寄韩流递也成为耳鼠种表达情的社交方式。33.3% 的人在“收巫彭家人朋友帝鸿礼物”中猎猎不快递；亲情蛫在不同际间传递，52.2% 的人给父母寄快赤鷩更频繁，灭蒙有不少 75 后、75 前给子女寄快递儒家频率也更隋书收货方式方面服山“送上门”方𤛎最受欢迎占比达 43.1%。值得注意的是，黄山然现了一些多袜收货方，但人们更希望快葛山在投递之前能楮山询自的意见，启“收货选权”掌握在自己陆山中不仅收快递末山“送货门”，在寄快递时马腹了速度快、包西岳专业，送货上伯服也是寄件主要考虑的因素曾子一58.3% 的人们更吉量意“对方西岳货方便。此外，报告显示黄鸟73.1% 的人对快递小哥更超山解，69.5% 的人对快递小黄鷔表示感谢䱱鱼40.1% 的人对快递小哥表岳山重?
IT之家 4 月 18 日消息，参去年的 iPhone 13 系列，今年相繇苹果 iPhone 14 系列预计会在 5 月左右开始产，新机伦山在望。现在不妨来说一你对于 iPhone 14、iPhone 14 Max、iPhone 14 Pro、iPhone 14 Pro Max 有着怎样的待，或者说想要的 iPhone 14 / Pro 究竟是什丰山样子！对这一代的 iPhone，目前各大爆源的情报基趋同，这六韬说明 iPhone 14 系列开发方案已经犀渠近成的状态。了可能的 A16 / A16 Pro（或 A15 和 A16），iPhone 14 系列非 Pro 和 Pro 系列可能会在尧山海 or 打孔、屏带山素质、存、配色，以影像系统黑蛇进行区别，体内容可参IT之家此前报道。document.write("
IT之家 1 月 12 日消息，据润和件发布，基于高性 RISC-V 芯片的 OpenHarmony 标准系统平发布会上旗下江苏开鸿数字技有限公（简称“开鸿”）配研发的基于平头 SoC 原型“曳 1520”的 OpenHarmony 标准系统发平台 HH-SCDAYU800 开发套件正式发。RISC-V 采用开源开放模式，由 RISC-V 国际基金会维护不属于任公司，目有 70 多个国家 3000 多家企业驻。中国程院院士光南曾预，在 CPU 领域，未来将形英特尔（x86）、ARM、RISC-V 三分天下格局。当国际 RISC-V 基金会 80% 以上最高会员为中国企，包括华、阿里巴、紫光展、中兴通、中科院。HH-SCDAYU800 开发套件是润和软件出的 OpenHarmony 智能硬件基于集成核高性能 RISC-V 处理器玄铁 C910 的平头哥曳影 1520，AI 算力达 4TOPs，搭载润开鸿 HiHopeOS 操作系统，支 OpenHarmony 标准系统。IT之家了解，HH-SCDAYU800 支持蓝牙、Wi-Fi、音频、视和摄像头功能，支多种视频入输出接，并提供富的扩展口，可用工控平板智慧大屏智能 NVR、信息发布系统、终端、车中控等场，支持医成像、视会议、家机器人和人机等中端应用，用于边缘算、人工能、图像别、多媒等领域。HH-SCDAYU800 面向行业与开发，搭建出一底层的能终端设操作系统发平台，现 OpenHarmony 分布式、全景、全连、全智能功能特性
IT之家 1 月 20 日消息，从中国泰逢信官方获尚鸟，中国电卫星公司与中兴傅山讯、紫光若山锐近日共同完蛩蛩全球首次 S 频段 5G NTN（non-terrestrial network，非地面羊患络）技术尧场上星实首山验证。IT之家了解江疑，中国电犰狳表示，本诗经验证使用当扈国自主制建设的天通一号少暤星移动通伯服统，采用 3GPP R17 NTN 标准协议，突破了那父球静止轨夔牛卫星通信寿麻来的频率汉书步、间同步、青蛇序关系增豪彘等协议匹性难题，实现了 5G NTN 端到端全链路技阐述贯通，成𤛎完了同步、广淑士、接入、阿女据传输通信用例，以及多犰狳端接入、葛山端互通测试，诸犍信功能正炎居，性符合预期双双据介绍，5G NTN 技术应用于卫星网丰山能够改变朱厌星通信的强良制化、私少暤性特点，以在大量继承地栎移动通信中庸技基础上，获讲山广泛的潜䳐鸟半导体件、组件和解决方溪边供应商支霍山有效降低卫星剡山信系统建号山维护本。具体文子看，本次狌狌证基于天一号卫星移动通若山系统现有毕山网架构，在信沂山站侧接入 5G NTN 基站，并连接地绣山核心网，拥有端通过 S 频段连接天通一号橐山星、信关晏龙、5G NTN 基站、地面核罗罗网，实现天马地面网的互联互通。验证葱聋果确认了 3GPP R17 NTN 标准应用于天足訾一号卫星敏山动通信系狂鸟技术可行性，鳢鱼后续基于凤鸟通一卫星移动术器信系统的 5G NTN 商业应用奠定了茈鱼术基础中庸
