机器学习实战[53]---新的思维方式:函数式编程
Posted 深南杂记
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习实战[53]---新的思维方式:函数式编程相关的知识,希望对你有一定的参考价值。
函数式编程是一种新的编程思维方式,如果把其简单地理解为C、C++或JAVA里面的函数,那就大错特错了。
为什么要了解函数式编程呢?
第一个原因,函数式编程给我们提供了另一种思考问题的方法,最重要的是学习这种思维方法。
第二个原因,好多人都在学,好多地方都在用。有越来越多的用函数式编程语言写的开源软件,最有名的,有Scala写的Spark,Erlang写的RabbitMQ,还有用Lisp写的Emacs。
函数式编程语言已经出现四十多年了,为什么现在才火起来?是因为函数式编程语言天然的适合多核编程,或者分布式编程,这些特性在大数据时代很重要。Google的MapReduce大数据处理框架就是受到函数式编程的启发而出现的,其实Google的MapReduce和函数式编程的map reduce本质上是一样的。
编程范式
函数式编程是一种编程范式,我们常见的编程范式有命令式编程(Imperative programming),函数式编程,逻辑式编程,常见的面向对象编程是也是一种命令式编程。
命令式编程是面向计算机硬件的抽象,有变量(对应着存储单元),赋值语句(获取,存储指令),表达式(内存引用和算术运算)和控制语句(跳转指令),一句话,命令式程序就是一个冯诺依曼机的指令序列。
而函数式编程是面向数学的抽象,将计算描述为一种表达式求值,一句话,函数式程序就是一个表达式。
函数式编程的本质
函数式编程中的函数这个术语不是指计算机中的函数(实际上是Subroutine),而是指数学中的函数,即自变量的映射。也就是说一个函数的值仅决定于函数参数的值,不依赖其他状态。比如sqrt(x)函数计算x的平方根,只要x不变,不论什么时候调用,调用几次,值都是不变的。
在函数式语言中,函数作为一等公民,可以在任何地方定义,在函数内或函数外,可以作为函数的参数和返回值,可以对函数进行组合。
纯函数式编程语言中的变量也不是命令式编程语言中的变量,即存储状态的单元,而是代数中的变量,即一个值的名称。变量的值是不可变的(immutable),也就是说不允许像命令式编程语言中那样多次给一个变量赋值。比如说在命令式编程语言我们写“x = x + 1”,这依赖可变状态的事实,拿给程序员看说是对的,但拿给数学家看,却被认为这个等式为假。
函数式语言中,如条件语句,循环语句也不是命令式编程语言中的控制语句,而是函数的语法糖,比如在Scala语言中,if else不是语句而是三元运算符,是有返回值的。
严格意义上的函数式编程意味着不使用可变的变量,赋值,循环和其他命令式控制结构进行编程。
从理论上说,函数式语言也不是通过冯诺伊曼体系结构的机器上运行的,而是通过λ演算来运行的,就是通过变量替换的方式进行,变量替换为其值或表达式,函数也替换为其表达式,并根据运算符进行计算。λ演算是图灵完全(Turing completeness)的,但是大多数情况,函数式程序还是被编译成(冯诺依曼机的)机器语言的指令执行的。
一个直观的例子
在函数式编程里,function is first-class citizen。在函数式语言的代码里,你会发现各种参数都是函数,这与C语言或者JAVA完全不一样。
有这样一个例子,写一个程序对一组二维数据进行拟合,即用x去拟合y。假设我有下面这些数据:
x : [1,2,3,4,5]
y : [1,4,9,16,25]
我要写一个函数,来得到x与y之间的函数。注意,这时候我们要的结果不再是数据,而是函数。
假设我们要写的函数可以自己学习,每次试一个函数,不行,则继续修正(手工修正)。
C语言版本
int main()
{
int x[5] = {1,2,3,4,5};
int y[5] = {1,4,9,16,25};
int a1,a2,a3;
while(1)
{
scanf("%d %d %d",
&a1,&a2,&a3);
try(5,x,y,a1,a2,a3);
}
}
int fun(int x,int a1,int a2,int a3) {
return a1*x*x+a2*x+a3;
}
void try(int len,int *x,int *y,
int a1,int a2,int a3) {
int i;
for(i = 0; i < len; i++) {
if(y[i] != fun(x[i],a1,a2,a3) ) {
printf("not match\n");
return;
}
}
printf("perfect match\n");
}
每次尝试后,就修改一下,最终得到一个y = a1*x*x+a2*x+a3
的函数,实际上是一个多项式函数。
Python版本
#### find.py
def TRY(X,Y,func):
i = 0
while i < len(X):
if func(X[i])!=Y[i]:
print "not match"
return
i=i+1
print "perfect match"
X=[1,2,3,4,5]
Y=[1,4,9,16,25]
while 1:
func = raw_input()
TRY(X,Y,eval(func))
运行结果:
>>> python find.py
>>> lambda x : x*x+5
not match
>>> lambda x : x*x*x*x*x*x +1
not match
>>> lambda x : x * x
perfect match
上面的两个程序的不同的地方在于,C语言版的函数是定死的,而Python版的函数可以作为变量输入。在C语言中,变量就是变量,函数就是函数(函数指针虽然可以作为参数传给另一个函数,但也是静态的,而且这里的函数更应该叫做routine)。
我们把这个例子扩展一下,假设有海量的数据,我们要用机器学习的方法得到这些数据中的一些规律,这些规律就是函数,而机器就是不断产生新的函数应用于这些数据。试想一下,在这种情况下,当然是函数式编程更理想。
未来的IT系统,都是分布式的,数据都是海量的,传统的锁机制已经不能适应这种分布式编程了,而函数式编程就是一种可以在语言级解决问题的一个方法,当然也不是所有问题都能解决。
函数式语言的简洁
写函数式编程语言时,最难的是转变思想。
例如计算一个数组的和。
用C语言写是这样的:
int a[5] = {1,2,3,4,5};
int sum = 0;
for( int i = 0;i<5;i++) {
sum +=a[i];
}
用函数式编程语言写是这样的:
a = [1,2,3,4,5]
sum = reduce(lambda x,y:x+y, a,0)
这里的reduce的作用是:有一个累计值acc是0,reduce将acc=acc+y应用到每个a的元素上,最后就得到了a的各个元素的和。
Google的MapReduce就是受函数式编程语言的map和reduce启发而产生的(reduce在有的语言中叫fold,就是把列表折叠一下)。
比如我用python写一个WordCount,给一个字符串数组,返回其中某个单次的个数。
用函数式编程的思路解决就是:要找”a”的个数,就将[“a”,”b”,”c”,”a”]映射成[1,0,0,1],然后再求和。
#这个函数返回的是一个函数
#判断一个词是不是等于word,如果等于word,返回1,否则返回0
#在函数式编程语言中,到处都是可以返回函数
def isTargetWord(word):
def isWord(w):
if w == word:
return 1
else:
return 0
return lambda x: isWord(x)
words = ["hello","world","hello"]
print "hello:",reduce(lambda x,y:x+y,map(isTargetWord("hello"),words),0)
print "world:",reduce(lambda x,y:x+y,map(isTargetWord("world"),words),0)
python的lambda表达式里不支持if-else,如果用scala,就会更加简洁了。
val words = List("hello","world","hello")
println("hello:" + words.map( x=>if(x=="hello") 1 else 0).reduce((x,y)=>x+y))
这种语法,先map,再reduce,看起来比较自然。一但理解了函数式编程语言,那么代码将会变得特别简洁易懂。当然让一个从来没学过函数式编程的人看上面的代码,肯定一头雾水,一但懂了,就觉得写起来特别方便。
以上是关于机器学习实战[53]---新的思维方式:函数式编程的主要内容,如果未能解决你的问题,请参考以下文章