您当前的位置:首页资讯技术专题正文

人工智能AI领域的进步主要基于神经网络的使用

放大字体  缩小字体 发布日期:2019-07-08 浏览次数:4
  人工智能(AI)领域的进步主要基于神经网络的使用。类似于人类大脑的功能,它们将数学上定义的单元相互组合。到目前为止,人们还不知道神经网络如何做出决策。在研究人员弗劳恩霍夫海因里希赫兹研究所HHI和柏林工业大学,现在已经开发,其检测标准AI系统作出决策的技术。基于Layer-Wise Relevance Propagation技术的新颖方法Spectral Relevance Analysis(SpRAy)允许查看“黑匣子”。

人工智能AI领域的进步主要基于神经网络的使用
  
  AI在许多生产,广告和传播领域发挥着重要作用。例如,公司使用学习和联网的人工智能系统来预测需求并预测客户行为。
  
  此外,在卫生服务中,人们使用人工智能的特定活动,例如在基于结构化数据进行预测时。这里,例如,这涉及图像识别:X射线图像作为AI系统的输入给出,输出是诊断。在自动驾驶中捕获图像内容也是至关重要的,其中必须检测交通标志,树木,行人和骑车者而没有错误。这是一个问题。在医疗诊断或安全关键领域等应用中,AI必须提供可靠的问题解决策略。
  
  到目前为止,人工智能系统如何做出决策是不可理解的。此外,预测基于输入数据的质量。在弗劳恩霍夫研究所电信,海因里希赫兹研究所(HHI)和柏林技术大学的研究人员现在已经开发与逐层关联传播(LRP)的技术,使得AI预测可以解释和揭示不确定的解决问题的策略。标识LRP技术,称为频谱分析的相关性(喷)的发展,并量化了广泛了解到决策行为,从而也承认了巨大的数据集不必要的决策。
  
  透明AI
  
  在实践中,该技术识别用于预测的各个输入元素。例如,当组织图像输入到AI系统时,每个像素对分类结果的影响被量化。因此,对“组织图像”如何“癌性”或“非癌性”的预测补充了该分类的基础的指示。“不仅结果应该是正确的,而且解决方案也是如此。到目前为止,人工智能系统已被用作黑匣子,“博士说。Wojciech Samek,弗劳恩霍夫HHI研究组“机器学习”的负责人。人们相信这些系统正在做正确的事情。研究人员现已成功使用他们的开源软件,使人工智能系统的解决方案发现变得易于理解。“通过LRP,我们可视化和解释神经网络和其他机器学习模型。利用LRP,我们测量每个输入变量对整体预测的影响,并分解分类器的决策,“博士补充道。Klaus-RobertMüller,柏林工业大学机器学习教授。
  
  不安全的解决方案策略
  
  只有了解神经网络如何工作的人才能信任结果。研究团队的测试证明了AI系统并不总能提出有意义的解决方案。例如,着名的AI系统基于上下文对图像进行分类。如果图片中可以看到很多水,它会分配船类照片。即使大多数图像被正确识别,识别船只的实际任务也没有解决它。“许多人工智能算法都采用不安全的策略,并且没有什么有意义的解决方案,”Samek调查结果说。
  
  思考时观察神经网络
  
  LRP技术破译了神经网络的功能,并将马的特征识别为马而不是驴或牛。在网络的每个节点,它识别信息如何流经网络。因此,甚至可以检查非常深的神经网络。
  
  目前,Fraunhofer HHI和TU Berlin的研究团队正在开发新的算法来研究更多问题,并使AI系统更安全,更健壮。

“如果发现本网站发布的资讯影响到您的版权,可以联系本站!同时欢迎来本站投稿!

0条 [查看全部]  相关评论