AdvBox 0.4发布 | 支持零编码黑盒攻击,上线新版电子教程,新增支持PyTorchMxNet

Posted 兜哥带你学安全

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了AdvBox 0.4发布 | 支持零编码黑盒攻击,上线新版电子教程,新增支持PyTorchMxNet相关的知识,希望对你有一定的参考价值。


AdvBox是一款由百度安全实验室研发,在百度大范围使用的AI模型安全工具箱,目前原生支持PaddlePaddle、PyTorch、Caffe2、MxNet、Keras以及TensorFlow平台,方便广大开发者和安全工程师可以使用自己熟悉的框架。

What’s New

编码黑盒攻

AdvBox在0.4版本之前,需要用户具有Python开发能力。为了进一步降低使用门槛,AdvBox从0.4版本开始,支持零编码黑盒攻击,用户使用命令行工具即可对深度学习模型进行黑盒攻击。AdvBox通过支持Graphpipe,屏蔽了底层使用的深度学习平台,用户可以零编码,仅通过几个命令就可以对PaddlePaddle、PyTorch、Caffe2、MxNet、CNTK、ScikitLearn以及TensorFlow平台生成的模型文件进行黑盒攻击。

AdvBox 0.4发布 | 支持零编码黑盒攻击,上线新版电子教程,新增支持PyTorch、MxNet

ONNX为例,目前PaddlePaddle、PyTorch、Caffe2、MxNet、CNTK、ScikitLearn均支持把模型保存成ONNX格式。对于ONNX格式的文件,使用类似的命令启动docker环境即可。


docker run -it --rm \

      -e https_proxy=${https_proxy} \

      -p 9000:9000 \

      sleepsonthefloor/graphpipe-onnx:cpu \

     --value-inputs=https://oracle.github.io/graphpipe/models/squeezenet.value_inputs.json\

     --model=https://oracle.github.io/graphpipe/models/squeezenet.onnx \

      --listen=0.0.0.0:9000


advbox_tools.py提供了丰富的配置参数,其中LocalSearch算法相关参数的设置可以参考论文[1]


Usage: advbox_tools.py[options]  

Options:

  -h, --help            show this help message and exit

  -u URL, --url=URL     graphpipe url [default:http://127.0.0.1:9000]

  -m M, --model=M       Deep learning frame [default: onnx];must be in

                        [onnx,tersorflow]

  -R R, --rounds=R      An upper bound on the number ofiterations [default:

                        200]

  -p P, --p-parameter=P

                        Perturbation parameterthat controls the pixel

                        sensitivity estimation[default: 0.3]

  -r R, --r-parameter=R

                        Perturbation parameterthat controls the cyclic

                        perturbation;must be in[0, 2]

  -d D, --d-parameter=D

                        The half side length ofthe neighborhood square

                        [default: 5]

  -t T, --t-parameter=T

                        The number of pixelsperturbed at each round [default:

                        5]

  -i INPUT_FILE, --input-file=INPUT_FILE

                        Original image file[default: mug227.png]

  -o OUTPUT_FILE, --output-file=OUTPUT_FILE

                        Adversary image file[default: adversary_image.jpg]

  -c C, --channel_axis=C

                        Channel_axis [default:0] ;must be in 0,1,2,3



支持PyTorch、MxNet


AdvBox从0.4版开始支持PyTorch、MxNet,目前原生支持PaddlePaddle、PyTorch、Caffe2、MxNet、Keras以及TensorFlow平台,方便广大开发者和安全工程师可以使用自己熟悉的框架。

新版教程上线

AdvBox从0.4版开始,支持使用Jupyter Notebook格式的ebook教程,便于用户快速掌握。

AdvBox 0.4发布 | 支持零编码黑盒攻击,上线新版电子教程,新增支持PyTorch、MxNet

结语

AdvBox今天发布0.4版本,支持零编码黑盒攻击,即使是不熟悉任何深度学习框架的用户也可以使用命令行工具对指定的深度学习模型生成对抗样本。上线新版电子教程,通过Jupyter Notebook更加详细的介绍如何使用AdvBox,进一步降低了使用门槛。新增支持了PyTorch、MxNet,便于使用PyTorch、MxNet的用户快速便捷的生成对抗样本。


参考文献:[1] Narodytska N , Kasiviswanathan S P . Simple Black-Box Adversarial Perturbations for Deep Networks[J]. 2016.