求质数算法的N种境界 (N > 10)
分类: 性能优化2011-12-01 22:21 13710人阅读 评论(40) 收藏 举报算法存储语言工作byte优化★引子
前天,俺在《俺的招聘经验[4]:通过笔试答题能看出啥?》一文,以"求质数"作为例子,介绍了一些考察应聘者的经验。由于本文没有*内容,顺便就转贴到俺在CSDN的镜像博客。昨天,某个CSDN网友在留言中写道:
老实说,这个程序并不好写,除非你背过这段代码
如果只在纸上让别人写程序,很多人都会出错
但是如果给一台电脑,大多数人都会把这个程序调试正确
出这个题目没啥意义
只能让别人觉得你出题水平低
首先,这位网友看帖可能不太仔细。俺在文中已经专门强调过了,评判笔试答题,"思路和想法"远远比"对错"更重要,而他/她依然纠结于对错;其次,这位网友居然觉得这道题目没啥意义,这让俺情何以堪啊?!看来,有相当一部分网友完全没有领略到此中之奥妙啊!
算了,俺今天就豁出去了,给大伙儿抖一抖这道题目的包袱。当然,抖包袱的后果就是:从今天开始,就得把"求质数"这道题从俺公司的笔试题中去掉,然后换上另外一道全然不同的。这么好的一道题要拿掉,真是于心不忍啊 :-(
★题目
好,言归正传。下面俺就由浅入深,从各种角度来剖析这道题目的奥妙。为了避免被人指责为"玩文字游戏"(有些同学自己审题不细,却抱怨出题的人玩文字游戏),在介绍各种境界之前,再明确一下题意。
前一个帖子已经介绍过,求质数可以有如下2种玩法。
◇需求1
请实现一个函数,对于给定的整型参数 N,该函数能够把自然数中,小于 N 的质数,从小到大打印出来。比如,当 N = 10,则打印出
2 3 5 7
◇需求2
请实现一个函数,对于给定的整型参数 N,该函数能够从小到大,依次打印出自然数中最小的 N 个质数。比如,当 N = 10,则打印出
2 3 5 7 11 13 17 19 23 29
★试除法
首先要介绍的,当然非"试除法"莫属啦。考虑到有些读者是菜鸟,稍微解释一下。"试除",顾名思义,就是不断地尝试能否整除。比如要判断自然数 x 是否质数,就不断尝试小于 x 且大于1的自然数,只要有一个能整除,则 x 是合数;否则,x 是质数。
显然,试除法是最容易想到的思路。不客气地说,也是最平庸的思路。不过捏,这个最平庸的思路,居然也有好多种境界。大伙儿请看:
◇境界1
在试除法中,最最土的做法,就是:假设要判断 x 是否为质数,就从 2 一直尝试到 x-1。这种做法,其效率应该是最差的。如果这道题目有10分,按照这种方式做出的代码,即便正确无误,俺也只给1分。
◇境界2
稍微聪明一点点的程序猿,会想:x 如果有(除了自身以外的)质因数,那肯定会小于等于 x/2,所以捏,他们就从 2 一直尝试到 x/2 即可。这一下子就少了一半的工作量哦,但依然是很笨的办法。打分的话,即便代码正确也只有2分
◇境界3
再稍微聪明一点的程序猿,会想了:除了2以外,所有可能的质因数都是奇数。所以,他们就先尝试 2,然后再尝试从 3 开始一直到 x/2 的所有奇数。这一下子,工作量又少了一半哦。但是,俺不得不说,依然很土。就算代码完全正确也只能得3分。
◇境界4
比前3种程序猿更聪明的,就会发现:其实只要从 2 一直尝试到√x,就可以了。估计有些网友想不通了,为什么只要到√x 即可?简单解释一下:因数都是成对出现的。比如,100的因数有:1和100,2和50,4和25,5和20,10和10。看出来没有?成对的因数,其中一个必然小于等于100的开平方,另一个大于等于100的开平方。至于严密的数学证明,用小学数学知识就可以搞定,俺就不啰嗦了。
◇境界5
那么,如果先尝试2,然后再针对 3 到√x 的所有奇数进行试除,是不是就足够优了捏?答案显然是否定的嘛?写到这里,才刚开始热身哦。一些更加聪明的程序猿,会发现一个问题:尝试从 3 到√x 的所有奇数,还是有些浪费。比如要判断101是否质数,101的根号取整后是10,那么,按照境界4,需要尝试的奇数分别是:3,5,7,9。但是你发现没有,对9的尝试是多余的。不能被3整除,必然不能被9整除......顺着这个思路走下去,这些程序猿就会发现:其实,只要尝试小于√x 的质数即可。而这些质数,恰好前面已经算出来了(是不是觉得很妙?)。
所以,处于这种境界的程序猿,会把已经算出的质数,先保存起来,然后用于后续的试除,效率就大大提高了。
顺便说一下,这就是算法理论中经常提到的:以空间换时间。
◇补充说明
开头的4种境界,基本上是依次递进的。不过,境界5跟境界4,是平级的。在俺考察过的应聘者中,有人想到了境界4但没有想到境界5;反之,也有人想到境界5但没想到境界4。通常,这两种境界只要能想到其中之一,俺会给5-7分;如果两种都想到了,俺会给8-10分。对于俺要招的"初级软件工程师"的岗位,能同时想到境界4和境界5,应该就可以了。如果你对自己要求不高,仅仅满足于浅尝辄止。那么,看到这儿,你就可以打住了,无需再看后续的内容;反之,如果你比较好奇或者希望再多学点东西,请接着往下看。
★筛法
说完"试除法",再来说说筛法(*的解释在"这里")。俺不妨揣测一下:本文的读者,应该有2/3以上,从来没有听说过筛法。所以捏,顺便跟大伙儿扯扯蛋,聊一下筛法的渊源。这个筛法啊,真的是一个既巧妙又快速的求质数方法。其发明人是公元前250年左右的一位希腊大牛——埃拉托斯特尼。为啥说他是大牛捏?因为他本人精通多个学科和领域,至少包括:数学、天文学、地理学(地理学这个词汇,就是他创立的)、历史学、文学(他是一个诗人)。真的堪称"跨领域的大牛"。
他最让俺佩服的是:仅仅用简单的几何方法,测量出了地球的周长、地球与月亮的距离、地球与太阳的距离、赤道与黄道的夹角......而且,这些计算结果跟当代科学家测出的,相差无几。要知道他生活的年代,大概相当于中国的春秋战国。而咱们的老祖宗,一直到明朝还顽固地坚信:天是圆的、地是方的、月亮会被天狗给吃喽......
好了,扯蛋完毕,言归正传。
估计很多人把筛法仅仅看成是一种具体的方法。其实,筛法还是一种很普适的思想。在处理很多复杂问题的时候,都可以看到筛法的影子。那么,筛法如何求质数捏,说起来很简单:
首先,2是公认最小的质数,所以,先把所有2的倍数去掉;然后剩下的那些大于2的数里面,最小的是3,所以3也是质数;然后把所有3的倍数都去掉,剩下的那些大于3的数里面,最小的是5,所以5也是质数......
上述过程不断重复,就可以把某个范围内的合数全都除去(就像被筛子筛掉一样),剩下的就是质数了。*上有一张很形象的动画,能直观地体现出筛法的工作过程。
明白了"筛法"的原理,大伙儿应该看出,筛法在速度上是明显优于"试除法"的。当然,筛法的程序实现也分为不同的境界。而且,筛法可讲究的门道更多了。下面,俺分别从不同角度,聊一聊筛法都有哪些讲究。
◇如何确定质数的分布范围?
这是采用筛法首先会碰到的问题。文本开头给出的那两种需求,其处理的方式完全不同,俺分别说一下。需求1
对于需求1,这个自然不是问题。因为在需求1中,质数的分布范围就是 N,已经给出了,很好办。
需求2
但是对于需求2,就难办了。因为需求2给出的 N,表示需要打印的质数的个数,那么这 N 个质数会分布在多大的范围捏?这可是个头疼的问题啊。
但是,来应聘的程序猿如果足够牛的话,当然不会被这个问题难倒。因为素数的分布,是有规律可循滴——这就是大名鼎鼎的素数定理。
稍微懂点数学的,应该知道素数的分布是越往后越稀疏。或者说,素数的密度是越来越低。而素数定理,说白了就是数学家找到了一些公式,用来估计某个范围内的素数,大概有几个。在这些公式中,最简洁的就是x/ln(x),公式中的 ln 表示自然对数(估计很多同学已经忘了啥叫自然对数)。假设要估计1,000,000以内有多少质数,用该公式算出是72,382个,而实际有78,498个,误差约8个百分点。该公式的特点是:估算的范围越大,偏差率越小。
有了素数定理,就可以根据要打印的质数个数,反推出这些质数分布在多大的范围内。因为这个质数分布公式有一定的误差(通常小于15%)。为了保险起见,把反推出的素数分布范围再稍微扩大15%,应该就足够了。
可能有同学会质疑俺:谁有这么好的记性,能够在笔试过程中背出这些质数分布公式捏?
俺觉得:背不出来是正常滴。但是,对于有一定数学功底的应聘者,假如他/她知道质数分布公式,即便不能完整写出来,只要在答题中体现出:"此处通过质数分布公式推算范围",那么俺也是认可滴。
再啰嗦一次:关键是看idea!
◇如何设计存储容器?
知道了分布范围,接下来就得构造一个容器,来存储该范围内的所有自然数;然后在筛的过程中,把合数筛掉。那么,这个容器该如何设计捏?不同层次的程序猿,自然设计出来的容器也不同啦。境界1
照例先说说最土的搞法——直接构造一个整型的容器。在筛的过程中把发现的合数删除掉,最后容器中就只剩下质数了。
为啥说这种搞法最土捏?
首先,整型的容器,浪费内存空间。比方说,你用的是32位的C/C++或者是Java,那么每个 int 都至少用掉4个字节的内存。当 N 很大时,内存开销就成问题了。
其次,当 N 很大时,频繁地对一个大的容器进行删除操作可能会导致频繁的内存分配和释放(具体取决于容器的实现方式);而频繁的内存分配/释放,会导致明显的CPU占用并可能造成内存碎片。
境界2
为了避免境界1导致的弊端,更聪明的程序猿会构造一个定长的布尔型容器(通常用数组)。比方说,质数的分布范围是1,000,000,那么就构造一个包含1,000,000个布尔值的数组。然后把所有元素都初始化为 true。在筛的过程中,一旦发现某个自然数是合数,就以该自然数为下标,把对应的布尔值改为 false。
全部筛完之后,遍历数组,找到那些值为 true 的元素,把他们的下标打印出来即可。
此种境界的好处在于:其一,由于容器是定长的,运算过程中避免了频繁的内存分配/释放;其二,在某些语言中,布尔型占用的空间比整型要小。比如C++的 bool 仅用1字节
注:C++标准(ISO/IEC 14882)没有硬性规定 sizeof(bool)==1,但大多数编译器都实现为一字节。
境界3
虽然境界2解决了境界1的弊端,但还是有很大的优化空间。有些程序猿会想出按位(bit)存储的思路。这其实是在境界2的基础上,优化了空间性能。俺觉得:C/C++出身的或者是玩过汇编语言的,比较容易往这方面想。
以C++为例。一个bool占用1字节内存。而1个字节有8个比特,每个比特可以表示0或1。所以,当你使用按位存储的方式,一个字节可以拿来当8个布尔型使用。所以,达到此境界的程序猿,会构造一个定长的byte数组,数组的每个byte存储8个布尔值。空间性能相比境界2,提高8倍(对于C++而言)。如果某种语言使用4字节表示布尔型,那么境界3比境界2,空间利用率提高32倍。
★总结
看到俺写"总结"二字,很多网友心想:总算看完了,知道该怎么求质数才是最优的了。其实,你们又错了,本文才写了不到一半。考虑到篇幅已经有点长,而且俺打了这么多字,也有点累了,暂时刹住话匣子,下次接着聊。
希望看了今天这个介绍,大伙儿应该明白一个道理:山外有山、天外有天。每一个技术领域里面的每一个细小的分支,深究下去都有很多的门道与奥妙。在你深究的过程中,必然会学到很多东西。深究的过程也就是你能力提高的过程。
本文后续的内容,会介绍刚才提到的按位存储法还有哪些缺陷,该如何解决。另外,还会介绍其它一些求质数的方法。
版权声明
本博客所有的原创文章,作者皆保留版权。转载必须包含本声明,保持本文完整,并以超链接形式注明作者编程随想和本文原始地址:
http://program-think.blogspot.com/2011/12/prime-algorithm-1.html
- 顶
- 27
- 踩
- 1
- 36楼 fistlongak 2013-07-09 10:04发表
- 还有存储的话如果最终结果只是要打印出来大可不必每个质数都存以max = 1000,000来举例以楼主的方法max的最大质因数不会超过1000所以只要存储1000以下的质数用于比较即可.
- 35楼 fistlongak 2013-07-09 09:42发表
-
求平方根本身就是个复杂度很高的计算我认为是不可取的,我认为正如楼主所说100的因数有:1和100,2和50,4和25,5和20,10和10。假如101当尝试除以2除不开的话那它的最大质数因数一定小于101/2,当除以3除不开的话那就一定小于101/3..以此类推这样时间复杂度就小很多.
- Re: fistlongak 2013-07-09 09:57发表
- 回复fistlongak:当然了这样的话会比求平方根多判断一轮,虽然不会太影响性能不过也是解决的如果再仔细想的话如果101无法被2整除那么那么101的最大质因数不可能大于101/3(考虑到C++自动去掉小数点后面的所以C++等部分语言要加1:101/3 + 1.lua什么的就没必要了)这样判断的次数就一样了.欢迎指正.
- 34楼 maxtai 2013-06-21 12:11发表
- 学习了,谢谢LZ
- 33楼 hoei 2013-06-13 05:39发表
- 莫非姓那
- 32楼 u010642684 2013-05-22 17:08发表
- 估计没人看,不过既然来了看完了就说几句。LZ这题出的有点偏难怪,倾向于算法,甚至数学。如果LZ公司需要做这样的相关工作,无可非议。如果只是出于个人爱好,会误杀很多人。
- 31楼 l863784757 2013-05-08 22:47发表
- 我一开始想到的就是刷选法,但是代码优化的境界还是不高
- 30楼 woshilitao5 2013-04-08 15:39发表
- 下一篇的连接在哪里,有木有啊?
- 29楼 RUSHING_SHOOTING 2013-04-08 13:10发表
- 一下午看看能不能把这文章读透。
- 28楼 清天灵月 2013-03-19 12:43发表
- 下集 出来了么?
- 27楼 汤汤111111 2013-03-19 09:52发表
- 很好
- 26楼 木木传奇 2013-03-04 21:24发表
- 境界5“小于√x 的质数”不会表示╮(╯▽╰)╭
- 25楼 littlefly414 2013-03-01 15:35发表
- 受教了
- 24楼 weixingl888 2012-10-29 00:03发表
-
什么时候有下一部分阿,想看啊。
最近写了个筛法,生成速度真的很快,生成2亿以内的素数,2s就搞定了。但是占用内存太大了,我想生成千亿左右的,内存根本不够,怎么解决?
- 23楼 king_on 2012-09-14 19:14发表
- 越发觉得吾学问之浅薄
- 22楼 CrazyDream_ 2012-08-06 17:55发表
- 后续后续呢,在哪里呢?
- 21楼 waterystone 2012-06-06 21:13发表
- 楼主辛苦,收藏啦
- 20楼 MSX303 2012-04-12 17:06发表
- 能不能都给出示例代码啊,自学人员看着感觉难懂,有代码加讲解就最好了
- 19楼 gjswxhb 2012-03-31 19:31发表
-
第一次看到筛选法是在一本敏捷软件开发的书上看到的,
而我却还用除选法的思路去看,看着看着觉得不对劲,后来按照作者代码的思路才搞明白!
- 18楼 静革 2012-03-24 00:55发表
- 楼主,还有吗?
- 17楼 czd327917086 2011-12-16 11:13发表
-
PHP境界5的代码
- function prime($max) {
- $data[0] = 2;
- $total = 1;
- for ($i = 3; $i <= $max; $i += 2) {
- $flag = true;
- $sqrt = ceil(sqrt($i));
- for ($j = 0; $j < $total && $data[$j] <= $sqrt; $j ++) {
- if (0 === $i % $data[$j]) {
- $flag = false;
- break;
- }
- }
- if ($flag)
- $data[$total++] = $i;
- }
- return $data;
- }
- 16楼 lsliliang 2011-12-06 20:40发表
- 本人数学不好,表示很蛋疼啊。。
- 15楼 Cline 2011-12-06 11:34发表
-
问: 如果N=2^31-1, 如何处理?
- Re: program_think 2011-12-06 16:45发表
-
回复Cline:恭喜你,能够考虑到“溢出”这个层面。
不过,俺要卖一个关子。在《求质数算法的N种境界》的下一个帖子,会提到这个话题。- Re: RUSHING_SHOOTING 2013-04-08 13:28发表
- 回复program_think:说好的下一个呢 博主大大
- 14楼 Ray-Soft 2011-12-06 10:41发表
- 牛淫啊!!!
- 13楼 Atlas 2011-12-05 00:14发表
- 好人一个,关注ing!!!
- 12楼 麦田 2011-12-03 15:31发表
- 筛选法原理倒是很简单,但用代码写起来就不会了..
- 11楼 obananao 2011-12-03 11:26发表
-
楼主 学问真多...
俺还需要很多东西去学
- 10楼 cxy198933 2011-12-02 19:46发表
- 看的我心潮澎湃!
- 9楼 LingFengChen 2011-12-02 16:57发表
-
好吧。。。
好像境界4和5,学校的老师有讲过呢。。
标记法是不错,最后用位来标记是不是还有个到推回来的计算量哦?空间和时间关系咯~~??
- 8楼 d115904109 2011-12-02 16:23发表
- 收藏
- 7楼 czd327917086 2011-12-02 15:05发表
- 真是淫才啊
- 6楼 joanlynnlove 2011-12-02 10:13发表
-
筛法俺当年也想到了。
再高深的都是数学问题。。。数学不好,sigh...
- 5楼 elevenilyyi 2011-12-02 08:55发表
- 收藏咧!
- 4楼 a_single_sail_w 2011-12-02 08:54发表
-
一般的团队里,"初级软件工程师"想到境界4和5要求有点高啊。
- Re: net_assassin 2013-05-22 15:06发表
- 回复a_single_sail_w:很正常的好吧,一点都不高,窃以为应该直接想到境界4
- 3楼 showjim 2011-12-02 07:54发表
- 很不错,期待博主详解各种分段筛的优缺点
- 2楼 android_qhdxuan 2011-12-01 23:33发表
- 楼主辛苦,不错!收藏了!
- 1楼 dc_726 2011-12-01 22:45发表
- 收藏