智能手环设计论文审批表模板

论文： 题目:《A Contextualized Temporal Attention Mechanism for Sequential Recommendation》 地址： 序列推荐任务很少使用时间和上下文信息对h(h就是rnn，gru等序列建模网络输出的状态)进行加权，www这篇论文融合了上下文和时间信息的加权信号，一起看看吧，虽然笔者觉得这篇论文非常笨重。。 这篇论文的背景其实可以放在sequence recommendation任务中去看待，根据历史记录中用户的先后行为来预测用户的偏好对于现代推荐系统而言具有挑战性且至关重要。现有的大多数序列推荐算法都将重点放在顺序动作之间的传递结构上，但是在对历史事件对当前预测的影响进行建模时，很大程度上会忽略时间和上下文信息。 论文认为，过去事件对用户当前动作的影响应随时间推移以及在不同背景下发生变化。因此，我们提出了一个基于上下文和时间的注意机制，该机制可以学会权衡历史行为对行为的影响，不仅影响行为是什么，而且还影响行为发生的时间和方式。更具体地说，为了动态地校准自注意机制的相对输入依存关系，我们设计了多个参数化的核函数来学习各种时间动态，然后使用上下文信息来确定对每个输入遵循哪些weight kernel函数。 上面的说法可能有点晦涩难懂，下面结合一张图来描述一下以上图中所示的在线购物场景为例：系统获得了一系列用户行为记录，并且需要推荐下一组商品。 我们应该注意，在此场景中，我们假设这些交互行为不是彼此独立的， 这更好地反映了推荐系统只能访问脱机数据和部分用户行为记录的情况。好了，接着看上图中的场景，用户在过去的一段时间内点击来网球拍，手机，运动鞋，智能手环，然后在昨天一直在浏览手机，那么这个时候我们需要预估用户的下一次点击，这个时候的用户正想买一个手表，那么这个时候系统是给用户推荐运动手表呢，还是推荐电子手表呢，因为用户过去的浏览有运动类的物品和智能设备的物品。 按照时间的分段性来看：长期的历史记录表明用户对购物体育相关产品感兴趣。 现在，用户正在寻找手表，该系统可以推荐一些运动手表。 从本质上讲，长期的用户历史记录通常可能会携带稀少但至关重要的用户偏好信息，影响着现在的意图，而最近的交互操作应该会更能代表用户在将来的意图。 按上下文细分：由于用户仔细浏览几个智能手机（比平均时间间隔短得多的时间间隔），因此可以认为这些物品跟当前用户的偏爱非常相关，因此智能手表可能比传统手表更受青睐。 通常，用户浏览日志的某些时间段可能看起来是异构的，这个时间段里面充满了用户的短期兴趣偏好，用户在这个时间点上会以重复的方式专注于一小部分同类物品。 很容易理解，时间因素可以理解为用户的长期兴趣偏好，即使在很遥远的历史，也会对现在的兴趣产生影响，上下文偏好可以理解为用户的短期兴趣偏好，也就是用户在近期浏览的物品表征了用户现在的短期意图。说白了就是对用户进行长短期兴趣建模。 本来不想说这三个问题的，无奈部分论文说的太抽象了，或许是越抽象越容易中稿？ 说实话这篇论文在解释时间跟上下文关系的时候说的太晦涩难懂了，笔者看的也是很头疼，比如下面这段话： 首先，我们看第一个问题，我的理解就是用self-attention进行序列建模，第二个就是确定时间因素和上下文因素的影响，第三个就是综合考虑时间和上下文的影响。 还是直接看模型吧，扯一堆什么因果关系看得头大：用户空间 U ，大小为U；物品空间 V ，大小为V。 用户的历史行为序列为{ },其中 ={( , ), ( , ) , ... },其中 用户u的交互时间， 代表交互的物品。 模型的输入为包括窗口大小为L的用户历史记录:{ ( ) i: 0 -> L},当前需要推荐的时间戳 ,输入序列的embedding X表示： 同时将输入序列的时间信息使用时间戳差来表示： 模型整体上分为三个部分：content-based attention，temporal kernels和contextualized mixture 三层模型可以表示为： 其中， 根据content X来计算每个输入的权重，输出权重序列α ∈ ； 将时间信息 T 通过K temporal kernels计算每个输入的temporal权重β ∈ ； 从 X 中提取context信息，并结合前两个阶段获得的α 和β 来计算得到最终的contextualized temporal权重γ ∈ 。 最终被推荐的物品的表示为： 其中，F-out是一个feed-forward层。 这里用到的是self-attention机制，具体的细节不在赘述，只需要知道结果输出就行：其中  表示最后一个物品的输入embedding，其实就是用最后一个物品的embedding作为key，self-attention最后一层的状态 作为query来计算 的。 基于观察：用户随意浏览的物品对短期的影响会急剧下降，但是在长期来说仍有着重要的作用。用户仔细浏览过的物品对用户短期的兴趣有着重要的作用。 所以，文章提出了很多temporal kernels来建模这种时间变化，不同的kernel函数 : → 如下所示： (1)   =  ,假设一个用户操作的影响会随着时间指数下降，但是永远不会消失。 (2)  ,假设一个用户操作的影响会随着时间而减弱，最终可以忽略不计。 (3)  -alT + b,假设一个用户操作的影响会随着时间线性下降，之后的softmax操作会将某个时间段内的影响置为0。 (4)  假设一个用户操作的影响不受时间影响。 根据K个kernal函数{ },我们可以将 T 转为K个temporal权重集合： 作为下一阶段的输入。 这一阶段的目标是基于提取到的context信息融合前两个阶段获得的content和temporal信息。 使用Bidirectional RNN结构来获得context信息。从输入序列embedding表示X中，我们可以计算得到循环隐藏层的状态： 其中，⊕是拼接操作，C_a​ttr是可选择的context特征（可以是特定推荐系统中每个行为的属性，表示行为发生时的上下文），本文中只使用了Bi-RNN的输出作为context特征。 行为i的context特征需要映射为一个长度为K的权重向量，每一个元素 都是这个行为经过 后的结果，使用feed forwaed层Fγ将它们映射到概率空间 ，然后经过softmax操作得到概率分布：最后将context和temporal信息进行融合：其中， , 其中，r是每一个item的分数，对于给定的用户，通过softmax层对item分数进行归一化，该层会在item表上产生概率分布，也就是进行多分类的意思。其中Ns是根据频率进行负采样的负样本。

各有关单位/个人：

为贯彻落实工业和信息化部《“十四五”信息通信行业发展规划》、《工业互联网创新发展行动计划（2021—2023年）》的部署，深入实施工业互联网创新发展战略，加快推动新一代信息技术与制造业深度融合，培养“5G 工业互联网”应用型、复合型、创新型专业人才队伍，中国通信学会特举办“5G 工业互联网”建设及运维高级研修班，具体内容如下：

一、组织结构

主办单位：中国通信学会

承办单位：江苏省未来网络创新研究院

二、培训内容

（一）面向工业互联网特定需求的5G关键技术；

（二）“5G+工业互联网”网络关键融合技术、应用标准；

（三）“5G+工业互联网”融合产品、工业控制系统融合创新方案及案例；

（四）“5G+工业互联网”重点行业工厂内5G网络技术和产品部署方案及案例；

（五）工业企业内网设计、建设和管理运维及商业模式；

（六）工业设备网络化改造方案及案例；

（七）企业外网建设方案及案例；

（八）工业企业生产流程优化与内网建设改造及推广；

（九）工业互联网标识解析体系建设；

（十）“5G+工业互联网”重点垂直行业融合创新；

（十一）“5G+工业互联网”典型工业应用场景；

（十二）综合型、特色型、专业型工业互联网平台；

（十三）“5G+工业互联网”企业安全风险分析及安全应对策略；

（十四）“5G+工业互联网”工业智慧大脑技术的应用与模型；

（十五）“5G+工业互联网”工业云端驾驶舱技术框架及应用；

（十六）“5G+工业互联网”工业云端工作室技术与业务系统；

（十七）“5G+工业互联网”工业企业上云的技术与解决方案；

（十八）“5G+工业互联网”工业云端数据管理和价值挖掘；

（十九）工业互联网系统化解决方案；

（二十）“5G+工业互联网”智能时代下的数字化转型与发展。

三、落地项目实地参观调研

实地参观调研工业和信息化部第二批（2021年11月公布）“5G+工业互联网”典型应用场景和重点行业实践案例。

案例1：杭州老板电器股份有限公司—中国移动

“老板电器5G无人工厂”项目，实现了生产单元模拟场景的应用。通过5G工业网关实时上传海量生产数据、设备状态数据，实现对厂房内工艺流程和布局的数字化建模，利用5G网络实时呈现车间内12条产线生产状态和65辆AGV位置信息。

案例2：江西蓝星星火有机硅有限公司—中国电信

“5G+智能化工”项目，实现了生产单元模拟场景的应用。通过5G工业网关、智能手环、高清摄像头等载体对工厂里的人、机、物等多要素进行数据采集和汇聚，形成企业生产数据中心。

四、时间地点

第一期：2022年4月12—15日（12日报到）

地点：浙江•杭州（具体地点见报道通知）

第二期：2022年5月17—20日（17日报到）

地点：江西•九江（具体地点见报道通知）

（注：计划全年在不同地区开展12期，每期具体时间和地点，视疫情提前适时通知。）

五、培训方式

第一期培训方式暂定线下（杭州）。第一期培训将根据疫情实时情况调整为线上直播方式，所有报名参加第一期且调整为线上的，将免费参加第二期（江西，或其他期线下）培训。

六、授课专家

邀请来自政府部门、研究机构、重点企业、金融机构、行业学会协会等领域的专家授课，同时邀请可复制、推广项目代表亲临现场分享典型案例。

七、收费标准

（一）培训费4200.00元/人（含讲课、场地、资料、证书等费用，不含论文发表费），食宿统一安排，费用自理。

（二）论文字数每篇5000字左右，论文结构参照常规 科技 论文格式（内容详见第九项）。

八、培训对象

（一）各地工信局、通信管理局、无线电管理处（办）、政府机构及行业组织单位等。

（二）基础电信企业、通信设备企业、工业企业、信息技术企业、互联网企业、高校及科研院所、工业园区运营管理机构等相关负责人及业务骨干。

九、论文征集

每期培训前后面向相关单位和个人，征集《工业互联网创新发展行动计划（2021—2023年）》相关内容论文，重点为关键技术、重点行业典型应用场景案例或解决方案。由中国通信学会组织专家评审出优秀案例和方案，以论文形式发表在相关领域中文核心期刊，集结成册《“5G+工业互联网”建设与运维论文集》发表，并入编《2022年“科创中国”技术应用案例库建设项目—工业互联网》，供各界交流学习使用。

十、结业证书

（一）凡参加任一期培训学员，培训结课且合格，中国通信学会将颁发《工业互联网专业技能提升证书》，证书可通过中国通信学会官方网站查询。

（二）参加学员报到时需提交2张2寸彩色蓝底免冠照片。

十一、报名方式

联系人：沈先生 方先生

报名电话： （同微信）

报名和投稿邮箱：

附件：关于举办“5G+工业互联网”建设及运维高级研修班的通知

中国通信学会

2022年2月25日