返回
顶部
我们已发送验证链接到您的邮箱,请查收并验证
没收到验证邮件?请确认邮箱是否正确或 重新发送邮件
确定
产业企业机构资本审查员说法官说首席知识产权官G40领袖新锐+科技专利商标版权法律Oversea榜单晨报董图推广产品公司活动政策律所

适合专利代理师看的神经网络模型

专利
其言朗朗4个月前
适合专利代理师看的神经网络模型

适合专利代理师看的神经网络模型

#文章由作者授权发布,未经作者许可,禁止转载,不代表IPRdaily立场#


原标题:适合专利代理师看的神经网络模型


作为一个在篮球界深耕近二十年的专利代理师,经常和同事吐槽工作中的各种正经和不正经的事(说到这里是不是以为笔者又要开始不正经了),好的,笔者要开始正经地扒“神经网络模型到底是怎么炼成的了”(大牛们看到这里就可以了,此文是专利代理师特供)。


神经网络模型是什么?


适合专利代理师看的神经网络模型


神经网络模型通常被视为聪明(无所不能)的黑盒子,给它喂什么样的标记样本,它就能具备识别同类样本的能力,但是执着、较真、视客户为上帝(负责任)的专利代理师是不会允许自己撰写的专利文稿这么浅薄的,都恨不得把黑盒子拆开一个个分析其内部每一部分的结构、这部分结构所提取的特征、它的权重是多少,说到这里,专利代理师是不是又要开始问:


神经网络模型到底是什么?


以神经网络模型从图像中识别大白兔为例,其识别大白兔的大致过程是:将图像分割成若干图像块,提取每个图像块具有的局部特征,再将这些图像块的局部特征汇总成全局特征,进而完成大白兔的识别。整个过程中,神经网络模型的工作可以分成如下几个主要步骤:


步骤1,卷积层提取特征


例如,上述待识别图像大小为7*7,每个像素点内都存储着图像的颜色值(如左侧视图),然后通过一个卷积核(如中间视图,相当于权重)从图像中提取特征,卷积核与数字矩阵对应位相乘再相加,得到卷积层输出结果(如右侧视图)。


适合专利代理师看的神经网络模型


上述卷积核每和一个3*3的图像块完成卷积(此图和上图的卷积核不同,原谅笔者盗图o(╯□╰)o)后向右移动一个像素点,下图示出了以步长为1(即每次卷积完后移动一个像素)的完整卷积过程,当所有的像素点都至少被覆盖一次后,就可以产生一个卷积层的输出:


适合专利代理师看的神经网络模型


神经网络模型初始时并不知道要识别哪些特征,而是通过比较不同卷积核的输出来确定哪一个卷积核(该卷积核所识别的特征即所需的最能表现该图像的特征),比如要识别图像中曲线这一特征,那么某个卷积核的输出值越高,就说明该卷积核与曲线这一特征的匹配程度就越高,越能表现该曲线特征。


适合专利代理师看的神经网络模型



当上述卷积核识别到大白兔屁股(就是传说中的曲线)的时候,卷积核与大白兔屁股区域数字矩阵相乘后输出较大,而在该卷积核识别大白兔的耳朵的时候,输出则可能很小。


此时就可以将这个卷积核保存用来识别曲线特征,采用同样的方式能找出识别大白兔其他部位(特征)的卷积核,在此过程中,卷积层在训练时通过不断的改变所使用的卷积核,来从中选取出与图片特征最匹配的卷积核,进而在图片识别过程中利用这些卷积核的输出来确定对应的图片特征。


步骤2,池化层处理


卷积层输出的特征作为池化层的输入,由于卷积核数量众多,输入的特征维度也很大,为了减少需要训练的参数数量和减小过拟合现象(过拟合时模型会过多的去注重细节特征,而不是共性特征,导致识别准确率下降),可以只保留卷积层输出的特征中有用的特征,而消除其中属于噪声的特征,既能减少噪声传送,还能降低特征维度。


池化层常见的两种处理方式是:


最大池化(以步长为2示意):


适合专利代理师看的神经网络模型


均值池化:


适合专利代理师看的神经网络模型


步骤3,全连接层处理


全连接层(fullyconnected layers,FC)在整个神经网络模型中相当于“分类器”,通过卷积层和池化层的操作可将原始数据映射到隐层特征空间,全连接层将学到的“分布式特征表示”映射到样本标记空间,即对于卷积层和池化层提取的有用的图像特征(即局部特征),全连接层利用这些有用的图像特征进行分类,利用激活函数对汇总的局部特征进行一些非线性变换,得到输出结果。


说到这里,是不是觉得神经网络模型不仅仅是在独立权利要求中写个黑盒子就完了吧,不要说笔者没有给出提示哦,对于不同的场景,识别过程中用到的卷积核、特征、各层的参数以及训练中卷积核的选择、参数的训练、激活函数的作用都是不同的,利用这些不同可以完美地环绕在黑盒子周围,保护着黑盒子(咳咳,未完待续)。  



来源:康信知识产权微信平台

作者:曾军

编辑:IPRdaily王颖          校对:IPRdaily纵横君


推荐阅读(点击图文,阅读全文)


适合专利代理师看的神经网络模型

倒计时!2019年“知识产权服务万里行”四川站,重磅来袭!


适合专利代理师看的神经网络模型

开年重磅!寻找40位40岁以下企业知识产权精英(40 Under 40)


“投稿”请投邮箱“iprdaily@163.com”


适合专利代理师看的神经网络模型

「关于IPRdaily」


IPRdaily成立于2014年,是全球影响力的知识产权媒体+产业服务平台,致力于连接全球知识产权人,用户汇聚了中国、美国、德国、俄罗斯、以色列、澳大利亚、新加坡、日本、韩国等15个国家和地区的高科技公司、成长型科技企业IP高管、研发人员、法务、政府机构、律所、事务所、科研院校等全球近50多万产业用户(国内25万+海外30万);同时拥有近百万条高质量的技术资源+专利资源,通过媒体构建全球知识产权资产信息第一入口。2016年获启赋资本领投和天使汇跟投的Pre-A轮融资。

(英文官网:iprdaily.com  中文官网:iprdaily.cn) 

 

本文来自康信知识产权微信平台并经IPRdaily.cn中文网编辑。转载此文章须经权利人同意,并附上出处与作者信息。文章不代表IPRdaily.cn立场,如若转载,请注明出处:“http://www.iprdaily.cn/”

其言朗朗投稿作者
共发表文章726
最近文章
关键词
首席知识产权官 世界知识产权日 美國專利訴訟管理策略 大数据 软件著作权登记 专利商标 商标注册人 人工智能 版权登记代理 如何快速获得美国专利授权? 材料科学 申请注册商标 软件著作权 虚拟现实与增强现实 专利侵权纠纷行政处理 专利预警 知识产权 全球视野 中国商标 版权保护中心 智能硬件 新材料 新一代信息技术产业 躲过商标转让的陷阱 航空航天装备 乐天 产业 海洋工程装备及高技术船舶 著作权 电子版权 医药及高性能医疗器械 中国专利年报 游戏动漫 条例 国际专利 商标 实用新型专利 专利费用 专利管理 出版管理条例 版权商标 知识产权侵权 商标审查协作中心 法律和政策 企业商标布局 新商标审查「不规范汉字」审理标准 专利机构排名 商标分类 专利检索 申请商标注册 法规 行业 法律常识 设计专利 2016知识产权行业分析 发明专利申请 国家商标总局 电影版权 专利申请 香港知识产权 国防知识产权 国际版权交易 十件 版权 顾问 版权登记 发明专利 亚洲知识产权 版权归属 商标办理 商标申请 美国专利局 ip 共享单车 一带一路商标 融资 驰名商标保护 知识产权工程师 授权 音乐的版权 专利 商标数据 知识产权局 知识产权法 专利小白 商标是什么 商标注册 知识产权网 中超 商标审查 维权 律所 专利代理人 知识产权案例 专利运营 现代产业
本文来自于iprdaily,永久保存地址为http://www.iprdaily.cn/article_22021.html,发布时间为2019-06-23 14:41:36

文章不错,犒劳下辛苦的作者吧

    我也说两句
    还可以输入140个字
    我要评论
    回复
    还可以输入 70 个字
    请选择打赏金额