机器学习
-
深度学习推荐系统中各类流行的Embedding方法（上
Embedding，中文直译为“嵌入”，常被翻译为“向量化”或者“向量映射”。在整个深度学习框架中都是十分重要的“基本操作”，不论是N...
2020-07-31 11:29:16 -
那些轻轻拍了拍Attention的后浪们
Reformer的论文选择了局部敏感哈希的angular变体。它们首先约束每个输入向量的L2范数(即将向量投影到一个单位球面上)，然后应用一系列的旋...
2020-07-31 11:29:06 -
深度学习之父Hinton：下一代神经网络
在机器学习中，有三种不同类型的学习模式：首先是监督学习，即给定输入向量学习预测输出。然后是强化学习，通过学习选择动作以获得...
2020-07-31 11:28:52 -
深度学习败于“捷径”
深度学习的未来在哪里？这一话题已经有过了无数讨论，大部分讨论都承认当前的深度学习还不是真正的智能，必须转向理解、常识。但是...
2020-07-31 11:28:33 -
华为要进军光刻机？
据媒体7月21日报道称，华为技术有限公司已经悄悄的在招聘“光刻工程师”，这或许意味着华为可能打算自己研发芯片制造技术。前不久有...
2020-07-25 23:49:28 -
摩尔定律的突围
50多年前，Intel创始人之一摩尔（Gordon Moore）提出了著名的摩尔定律，其内容为：集成电路上可容纳的晶体管数目，约每隔两年便会增加一倍...
2020-07-25 23:49:03 -
为什么搜索与推荐场景用AUC评价模型好坏？
对比accuracy、precision等指标，AUC指标本身和模型预测score绝对值无关，只关注排序效果，因此特别适合排序业务。为何与模型预测score值无关...
2020-07-23 00:21:48 -
港中文-商汤OpenMMLab开源全景图！
OpenMMLab 为香港中文大学-商汤科技联合实验室 MMLab 开源的算法平台，不到两年时间，已经包含众多 SOTA 计算机视觉算法。OpenMMLab 在Github上不...
2020-07-23 00:21:33 -
OpenCV 4.4 发布！SIFT移到主库，新增YOLOv4 和 Effic
OpenCV 2020 夏季版如约而至，收录了不少State-of-the-art 和经典算法，我们一起来看看吧！SIFT算法因专利到期，成为公有技术，其OpenCV实现被移...
2020-07-23 00:21:24 -
2020年，知识图谱都有哪些研究风向？
随着认知智能走进了人们的视野，知识图谱的重要性便日渐凸显。在今年的自然语言处理顶会 ACL 2020 上，自然语言知识图谱领域发生了巨大...
2020-07-23 00:21:10 -
CPU 明明 8 个核，网卡为啥拼命折腾 1 号核？
我们日常的工作就是不断执行代码指令，不过这看似简单的工作背后其实也并不轻松。咱不能闷着头啥也不管一个劲的只管执行代码，还得...
2020-07-23 00:20:47 -
一家AI创业公司的自救：深陷疫情重点打击行业，
这是一家 AI 创业公司挺过疫情、扭亏为盈的故事。经历了 2019 年经济寒冬的人们，从没想到过下一年会以这样的方式到来。在新冠病毒的蔓...
2020-07-23 00:20:34 -
BERT-of-Theseus：基于模块替换的模型压缩方法
模型压缩就是“简化大模型，得到推理速度更快的小模型”。当然，一般来说模型压缩是有一定牺牲的，比如最明显的是最后的评测指标会...
2020-07-23 00:20:25 -
Uber正式开源分布式机器学习平台：Fiber
在过去的几年中，计算机不断增强的处理能力推动了机器学习的进步。算法越来越多地利用并行性，并依赖分布式训练来处理大量数据。然...
2020-07-23 00:20:15 -
半导体光刻机行业深度报告：复盘ASML，探寻本土
半导体产业链分为设计、制造、封测三大环节，设备成为半导体产业支柱。芯片设计主 要根据芯片的设计目的进行逻辑设计和规则制定，并...
2020-07-23 00:20:03 -
AI大觉醒：图灵奖得主Bengio称AI将产生意识，未来
2020年ICLR上，图灵奖得主、蒙特利尔学习算法研究所主任Yoshua Bengio对AI和机器学习的未来提供了最新的见解。他讲到未来机器学习完全有可能...
2020-07-23 00:16:54 -
吊打一切：YOLOv4的tricks汇总
即使是目标检测在过去几年开始成熟，竞争仍然很激烈。如下所示，YOLOv4声称拥有最先进的精度，同时保持高处理帧速率。它在 MS COCO数据集...
2020-07-23 00:10:28 -
11 种主要神经网络结构图解
随着深度学习的快速发展，人们创建了一整套神经网络结构来解决各种各样的任务和问题。尽管有无数的神经网络结构，这里有十一种对于...
2020-07-23 00:10:13 -
Longformer：超越RoBERTa，为长文档而生的预训练模型
传统Tranformer-based模型在处理长文本时有着天然的劣势。因为传统模型采用的是“全连接”型的attention机制，即每一个token都要与其他所有t...
2020-07-23 00:09:56 -
软银欲出售Arm，苹果可能接盘
据华尔街日报、彭博社等多家外媒报道，知情人士透露，软银正在探索通过私有交易或公开发行股票的出售Arm Holdings部分或全部股份。这家...
2020-07-23 00:09:44 -
芯片破壁者：光刻技术的“鬼斧”之变
在我们今天看来，晶体管发明以后，集成电路的出现一直到今天超大规模集成电路的出现，似乎是一件水到渠成的事情。但是如果回到半导...
2020-07-23 00:09:31 -
台积电2纳米获得重大突破
台积电冲刺先进制程，在2纳米研发有重大突破，已成功找到路径，将切入GAA（环绕闸极）技术，为台积电发展鳍式场效电晶体（FinFET）取得...
2020-07-23 00:09:15 -
苹果自研芯片的优势与劣势
不知不觉，注定多不胜数的重大事件将塞满历史课本的2020年，也走过一半了，距离预定年内发表的首款搭载「Apple Silicon」的Mac，也为时不远...
2020-07-23 00:08:59 -
如何理解YOLO：YOLO详解
YOLO将物体检测作为回归问题求解。基于一个单独的end-to-end网络，完成从原始图像的输入到物体位置和类别的输出。Faster rcnn使用RPN（region...
2020-07-23 00:08:36 -
YOLOv5是真的吗？并不比YOLOv4强，不配这个名字
首先简单介绍一下 YOLO。YOLO 是一个实时目标检测框架，其意思是 You Only Look Once（你只看一次）。也就是说待检测的目标图像仅会通过全卷积...
2020-07-12 23:31:01 -
PowerPC的芯酸往事
在芯片界，苹果可以说是最负盛名的客户。而做苹果的客户可谓是既“瑟瑟发抖”又“无限荣光”的事情。达则走向巅峰，败则跌落谷底。...
2020-07-12 23:29:57 -
线性Attention的探索：Attention必须有个Softmax吗？
某种意义上来说，Reformer 也是稀疏 Attention 的一种，只不过它的稀疏 pattern 不是事先指定的，而是通过 LSH（Locality Sensitive Hashing）技术（近似...
2020-07-12 23:29:47 -
Google | 创造Youtube单次上线最高收益！解决推荐中
众所周知，工业界大规模推荐系统一般都是有百万、千万级甚至更大规模的item候选集，因此从RL的角度来说，action空间异常的庞大。同时用...
2020-07-12 23:29:33 -
外媒：美国如何重返半导体制造巅峰？
美国成功重返半导体制造市场巅峰绝不是确定的赌注。两党对美国《 CHIPS法案》的支持是令人鼓舞的，但是仅靠资金可能无法解决导致半导...
2020-07-12 23:29:22 -
五年大涨1800%，英伟达市值有望超过英特尔
不久后，「美国顶尖芯片制造商」的头衔也许将要易主。英特尔公司（Intel）过去50年来一直是美国芯片产业龙头，但英伟达（Nvidia）近来急...
2020-07-12 23:28:36 -
Attention注意力机制的前世今身
注意力机制（Attention Mechanism）最早应用 CV 任务上 ，但最初的论文引用，作者没有找到，如有知晓的，还望在评论中给出。在 NLP 中的最早应...
2020-07-06 23:33:08 -
详细解读LSTM与GRU单元的各个公式和区别
因为自己LSTM和GRU学的时间相隔很远，并且当时学的也有点小小的蒙圈，也因为最近一直在用lstm，gru等等，所以今天没事好好缕了一下，接下...
2020-07-06 23:33:02 -
PyTorch称霸顶会：CVPR论文占比是TensorFlow 4 倍
在最新的图表数据中，Horace He 依然以 ICLR 2020 和 CVPR 2020 接收论文中 PyTorch 使用量在 TensorFlow/PyTorch 使用总数中的占比情况，以及 PyTorch/Ten...
2020-07-06 23:32:54 -
NVIDIA针对数据不充分数据集进行生成改进，大幅
生成对抗网络因其优异的生成质量而得到广泛的关注，然而想要得到高质量的生成结果往往需要大批量的训练数据进行加持才能训练出逼真...
2020-07-06 23:32:47 -
中科院计算所沈华伟：图神经网络表达能力的回
图神经网络过去几年炙手可热，也取得了一系列的突破，但是这两年发展进入了相对停滞的状态。当前更多的研究员是把图神经网络当做一...
2020-07-06 23:32:39
