请大家给推荐一些学习海量数据和高并发的资料?

时间:2022-12-26 17:29:54
这段时间在找工作,本着努力发展的原则,很想进一个能学到新知识的大公司,而之前一直在做类似于办公自动化的系统(用asp.net),所以面试时遇到很多这样的问题:“你对于系统的性能优化了解多少?”、“对于上百万的数据量,有没有项目经验?”、“如果系统的访问量很大,比如说:日访问量在百万甚至上千万的访问,你该怎么处理”等等类似的问题,而对于此类的问题,我的回答除了增加web服务器和.net remoting之外,实在没什么新鲜的,所以这面试的结果是相当的令人郁闷,小弟在此向大家真诚的请教:做业务系统的,如果想要做网站,到底该学习点儿啥东西呢?
最近买了本书,不过书中都是linux和php以及一些其他的服务器,看了那本书我都有点儿痛恨微软了,学了c#,导致现在只懂windows和iis(公司做的系统都是数据量较少而且并发访问量不大的),各位兄弟姐妹给支支招,该怎么向大网站公司迈进呢?

27 个解决方案

#1


沙发 请大家给推荐一些学习海量数据和高并发的资料?

#2


 顶一个,俺初学者

#3


这是经验、慢慢积累吧。

想提高效率那是跟数据结构和算法

#4


http://u.115.com/file/f1e0933f45
sql优化包,希望对你有帮助

#5


请大家给推荐一些学习海量数据和高并发的资料?

#6


海量数据应该采用分布式存储模式
高并发量则是服务器集群+负载均衡

#7


大批量的数据应当怎样进行数据库的优化 

这里面 说的很详细 可以去看看

#8


楼上的链接好像被和谐了!

#9


多参考一些优秀的开源中间件, 可以从中得到启发

#10


上面的地址确实被和谐了!

=======

我公司用的是sqlserver2005,最大的表有360多万记录,现在数据库方面只是用了分表,索引,视图等常规的手段,楼上的楼上说的高端技术不懂所以也不敢尝试。程序方面因为是C/S的所以用了一些分页和缓存的技巧,总之是好不容易勉强满足了业务的需要,我也一直在寻求优化的方法,但都是无法治本,真是很苦恼啊。

如果是设计一个新的数据库,相对要好办一点,想要在一套正在运行的系统上修改真是太难太难太难。。。 

#11


这种知识在书本中很难学好,还是在实际中学习
很多工作几年的都不会
分布式+负载均衡
百度文库中看看相关网站架构
http://topic.csdn.net/u/20100106/16/f426b5f7-55da-44f0-adba-c67803730f49.html

#12


呵呵 顶 接分

#13


该回复于2010-08-11 09:44:50被版主删除

#14


这样的系统很多需要的不仅是windows平台下的知识,系统架构师的知识更多来源于工作的经验

推荐你先看一本"构建高性能Web站点"

作者: 郭欣    
出版社:电子工业出版社 
ISBN:9787121093357
上架时间:2009-8-22

#15


架构师是必须要懂得跨平台的相关知识

#16


引用楼主 zhuanshen712 的回复:
这段时间在找工作,本着努力发展的原则,很想进一个能学到新知识的大公司,而之前一直在做类似于办公自动化的系统(用asp.net),所以面试时遇到很多这样的问题:“你对于系统的性能优化了解多少?”、“对于上百万的数据量,有没有项目经验?”、“如果系统的访问量很大,比如说:日访问量在百万甚至上千万的访问,你该怎么处理”等等类似的问题,而对于此类的问题,我的回答除了增加web服务器和.net remoti……

性能优化很多方式吧:数据库方面可以优化,程序代码可以优化。
其中上百万数据的表应该建立索引,并且用存储过程访问,再就是每次不要加载太多数据,应该只加载所显示的页面条数,其他只用虚拟分页即可。
访问量大应该用线程池处理吧,这个不太确定。

#17


LZ加油吧!有努力就有希望!

#18


还有的就是异步ajax咯,也可以提高性能的

#19


引用 14 楼 amandag 的回复:
这样的系统很多需要的不仅是windows平台下的知识,系统架构师的知识更多来源于工作的经验

推荐你先看一本"构建高性能Web站点"

作者: 郭欣  
出版社:电子工业出版社 
ISBN:9787121093357
上架时间:2009-8-22

谢谢高歌,呵呵,高歌我还是很“熟悉”的,因为我上学时的毕业设计有很多问题就是在csdn上请教,高歌给解答的。哈哈,很感谢你啊。还有,就是那本书我前两天已经买了,正看呢,被这些“做网站”的给打击了。。。

#20


也谢谢大家的建议。

#21


访问量、数据量不是很可怕。

建立好索引性能就上百倍提升。

访问量大,要考虑数据库录入的并发问题。

资源访问的并发问题,更新、删除要加锁。

为了快速响应,一些不必要的立即执行的要用多线程列队,让它再后台自己执行。

如果要在常用表作些导致锁表的操作,要考虑分表。

#22


百度,谷歌

#23


该回复于2010-08-11 16:30:09被版主删除

#24


该回复于2010-08-11 15:54:13被版主删除

#25


这个要结合你的项目的需求和特点,光海量数据的处理就很多的,比如memcachedCache,tokyotyrant等缓存技术,hadoop,hive等数据分析等等,很多东西的。集群是肯定的啦。

#26


可以关注下国外以及国内的一些大型IT公司的一些技术。

#27


谢谢各位了。

#1


沙发 请大家给推荐一些学习海量数据和高并发的资料?

#2


 顶一个,俺初学者

#3


这是经验、慢慢积累吧。

想提高效率那是跟数据结构和算法

#4


http://u.115.com/file/f1e0933f45
sql优化包,希望对你有帮助

#5


请大家给推荐一些学习海量数据和高并发的资料?

#6


海量数据应该采用分布式存储模式
高并发量则是服务器集群+负载均衡

#7


大批量的数据应当怎样进行数据库的优化 

这里面 说的很详细 可以去看看

#8


楼上的链接好像被和谐了!

#9


多参考一些优秀的开源中间件, 可以从中得到启发

#10


上面的地址确实被和谐了!

=======

我公司用的是sqlserver2005,最大的表有360多万记录,现在数据库方面只是用了分表,索引,视图等常规的手段,楼上的楼上说的高端技术不懂所以也不敢尝试。程序方面因为是C/S的所以用了一些分页和缓存的技巧,总之是好不容易勉强满足了业务的需要,我也一直在寻求优化的方法,但都是无法治本,真是很苦恼啊。

如果是设计一个新的数据库,相对要好办一点,想要在一套正在运行的系统上修改真是太难太难太难。。。 

#11


这种知识在书本中很难学好,还是在实际中学习
很多工作几年的都不会
分布式+负载均衡
百度文库中看看相关网站架构
http://topic.csdn.net/u/20100106/16/f426b5f7-55da-44f0-adba-c67803730f49.html

#12


呵呵 顶 接分

#13


该回复于2010-08-11 09:44:50被版主删除

#14


这样的系统很多需要的不仅是windows平台下的知识,系统架构师的知识更多来源于工作的经验

推荐你先看一本"构建高性能Web站点"

作者: 郭欣    
出版社:电子工业出版社 
ISBN:9787121093357
上架时间:2009-8-22

#15


架构师是必须要懂得跨平台的相关知识

#16


引用楼主 zhuanshen712 的回复:
这段时间在找工作,本着努力发展的原则,很想进一个能学到新知识的大公司,而之前一直在做类似于办公自动化的系统(用asp.net),所以面试时遇到很多这样的问题:“你对于系统的性能优化了解多少?”、“对于上百万的数据量,有没有项目经验?”、“如果系统的访问量很大,比如说:日访问量在百万甚至上千万的访问,你该怎么处理”等等类似的问题,而对于此类的问题,我的回答除了增加web服务器和.net remoti……

性能优化很多方式吧:数据库方面可以优化,程序代码可以优化。
其中上百万数据的表应该建立索引,并且用存储过程访问,再就是每次不要加载太多数据,应该只加载所显示的页面条数,其他只用虚拟分页即可。
访问量大应该用线程池处理吧,这个不太确定。

#17


LZ加油吧!有努力就有希望!

#18


还有的就是异步ajax咯,也可以提高性能的

#19


引用 14 楼 amandag 的回复:
这样的系统很多需要的不仅是windows平台下的知识,系统架构师的知识更多来源于工作的经验

推荐你先看一本"构建高性能Web站点"

作者: 郭欣  
出版社:电子工业出版社 
ISBN:9787121093357
上架时间:2009-8-22

谢谢高歌,呵呵,高歌我还是很“熟悉”的,因为我上学时的毕业设计有很多问题就是在csdn上请教,高歌给解答的。哈哈,很感谢你啊。还有,就是那本书我前两天已经买了,正看呢,被这些“做网站”的给打击了。。。

#20


也谢谢大家的建议。

#21


访问量、数据量不是很可怕。

建立好索引性能就上百倍提升。

访问量大,要考虑数据库录入的并发问题。

资源访问的并发问题,更新、删除要加锁。

为了快速响应,一些不必要的立即执行的要用多线程列队,让它再后台自己执行。

如果要在常用表作些导致锁表的操作,要考虑分表。

#22


百度,谷歌

#23


该回复于2010-08-11 16:30:09被版主删除

#24


该回复于2010-08-11 15:54:13被版主删除

#25


这个要结合你的项目的需求和特点,光海量数据的处理就很多的,比如memcachedCache,tokyotyrant等缓存技术,hadoop,hive等数据分析等等,很多东西的。集群是肯定的啦。

#26


可以关注下国外以及国内的一些大型IT公司的一些技术。

#27


谢谢各位了。