人工智能安全(一)——初识人工智能

时间:2024-02-24 18:48:27

初识人工智能

1.人工智能安全主要领域:语音、机器人、机器视觉(占比较多)、军事生活娱乐、教育(松鼠AI)、家居、零售、医疗。

2.人工智能的应用:

  <1>.神经网络自动补帧:

    动画电影的制作中,有关键帧和中间帧之分,中间帧是串在两个关键帧之间的画面,起到衔接和让画面流畅的作用,但其制作却非常耗时;

    如果给出一段视频的相邻的关键帧,让AI去补充出中间的画面,工作量就会大大减少;

    AI生成的视频帧序列,在风格上与给定的起始帧和结束帧保持一致,而且整体看起来很顺滑,甚至可以轻松产生48帧以上的高品质动画。

  <2>.迪士尼公司研究的剧本自动转动画,如果研制成功,则可以节省大量的制作成本。

3.人工智能的潜在威胁:

  <1>.Adersarial Examples(对抗样本):

 

 


    如图:将大熊猫的图片加上0.07的干扰图片(精心制作的),虽然在肉眼上看不出来区别,但是人工智能识别的可能是其他的东西。

  <2>.Adersarial Examples from Overfitting(过度拟合):

    过度精确导致人工智能识别不出来本该识别出来的数据。

 

 

   <3>.Adersarial Examples from Excessive Linearity(过度线性):

    对本来有交集的事物由于识别的不准确而将一种事物判断为另一种事物。

 

 

  <4>.Adersarial Examples for RL(强化学习的反例):

    当输入过多的脏数据导致人工智能对本来的事物产生错误的认识。

  <5>.几种训练方法对人工智能的影响(Clean表示正常训练,Adv表示脏数据):

 

 

4.几种人工智能的工具/平台的介绍:

  <1>.IBM开发的 ART(Adversarial  Robustness 360 Toolbox  v1.0);

  <2>.CleverHans;

  <3>.百度的Advbox。