垃圾邮件泛滥 细数反垃圾邮件技术发展
垃圾邮件(未经许可的商业邮件或不受欢迎的非法邮件)成为1990年以来一直困扰着互联网的问题。那时,互联网越来越商业化,越来越接近消费者。一开始只是感觉到少数人制造一些电子广告,而现在垃圾邮件占用了目前大部分的邮件空间。垃圾邮件造成恶性商业形象,损害了邮件使用者的利益,占用网络资源,而且它对公司的网络系统和网络可信度,效率和安全性造成严重的威胁。
8 V5 {& ]$ M9 T1 Dwww.520diannao.com8 K; w) W e! V% e$ |, N
垃圾邮件不是科技发展的结果我爱电脑技术论坛5 |. X. @2 ^2 {/ p8 Q
F7 Q) u7 I8 H8 d0 E1 j- h
大多数关于垃圾邮件的讨论围绕在技术层面。然而,驱使垃圾邮件不断增加的却是经济原因,要求发送者的商业公司为发送垃圾邮件支付的巨额费用。www.520diannao.com# V; b! Y% W- K, `# y
电脑,技术,IT,学习,交流,网络安全,QQ,硬件,软件,编程,教程,建站/ ?" c- k/ P ^) ?4 [
Ferris市场调查公司在2004年的研究表明,美国的公司每年被大量的垃圾邮件消耗掉100亿美元。同时,对于公司和消费者来说,相比动辄数百万的广告费来说,垃圾邮件的花费是最少的。发送数百万封垃圾邮件的费用,也许通过少量生意就可以赚回来。这样,即使垃圾邮件的回应率极端的低(举例来说,一千万封电子邮件广告之后可能只产生100个销售量),但是与传统合法的广告媒体相比,,它仍然有利可图。因而垃圾邮件在很长一段时间会存在,反垃圾邮件是一项长期而艰巨的工作。
: J6 Y2 l0 z; Z" f我爱电脑技术社区--打造最好的电脑技术自学交流平台) S: X- F# M9 d3 L; d4 I% k, N
信息产业缓慢回应
, t& Z* b0 r) F- A- m我爱电脑技术论坛
7 p. z- e/ f ?) ]打造最好的电脑自学交流论坛 从1990年开始,垃圾邮件就成为网络服务商(ISPs)和企业的头号难题。ISPs和企业不得不采取行动来遏制对邮件服务器和网络造成威胁的垃圾邮件。
& O$ U# N/ f3 ?0 \3 p+ w( i我爱电脑技术论坛我爱电脑技术社区--打造最好的电脑技术自学交流平台, ?$ ]* C7 _2 M% {
尽管这个问题广泛的被信息行业所承认,但之前却鲜有反垃圾邮件的工具和技术。信息行业,包括邮件服务商和相关产品,以及行业标准,对于垃圾邮件问题都反应颇慢——最初都低估了垃圾邮件的数量和技术复杂性。
2 k0 b" |4 } M( M2 ?+ a' y2 X9 _打造最好的电脑自学交流论坛www.520diannao.com( B9 D" i$ i1 s- p: U! R
第一代反垃圾邮件技术
8 B, a, c) l2 ~9 |- swww.520diannao.com) z, [3 K% ?: b( n% r! m
很难明显的区分在大多数MTA上已经具有的反垃圾邮件功能和第一代反垃圾邮件产品功能,因为这些已经存在的反垃圾邮件功能加上新开发的功能在很大程度上帮助解决了垃圾邮件问题。 标题和信头测试,和简单的DNS测试一样,主要是由于需要抵制垃圾邮件来推动的.打造最好的电脑自学交流论坛! r: G3 v1 l: ]5 u( S4 r, z/ u1 J
我爱电脑技术社区--打造最好的电脑技术自学交流平台* U3 \. @( ]( D" ~* |% }- b) @, N
基础MTA控制打造最好的电脑自学交流论坛* Y6 G" Y( q( h
打造最好的电脑自学交流论坛9 L5 |+ Z. W4 ?8 Y
MTA协议应该能控制基于每个域名的通讯连接,比如,防止“开放转发”并不能当作一种独立的反垃圾邮件技术。因为协议是在早期还没有产生垃圾邮件问题时被提出的,并没有预见到会有这些基本的安全隐患。" J& a+ L) T. B9 Z
& L6 c9 c/ i% m7 p4 M6 E 以梭子鱼垃圾邮件防火墙为例,(下称“梭子鱼”),其包含的拒绝服务攻击防护和速率控制技术,属于MTA控制的范畴。拒绝服务攻击防护是指对于IP连接数量的限制,当一个IP连接数过多的时侯,会禁止其连接,以免服务器资源被过度消耗,另外,对连接的时间也有限制。在邮件协议上,用户可以自定义超时设置。此外,梭子鱼内置的并发连接数控制都对这类攻击有明显的抑制。) M) l' W" }0 l. D1 y- T" _
我爱电脑技术社区--打造最好的电脑技术自学交流平台# |7 R" |0 M( C% u
梭子鱼通过专利认证的十层过滤中第三层“速率控制”能够扼制海量邮件的发送,拒绝虚假发件人。直接效果就是释放了垃圾流量占用的大量带宽。我爱电脑技术论坛6 I4 _$ X$ s. V* b! t: y: z X y
www.520diannao.com6 R/ n: S. u4 Q
白名单和黑名单2 _1 p3 `( R; k9 {0 z
- Y8 _. S# g4 n3 F我爱电脑技术社区--打造最好的电脑技术自学交流平台 黑名单(Black List)和白名单(White List)。分别是已知的垃圾邮件发送者或可信任的发送者IP地址或者邮件地址。现在有很多组织都在做*bl(block list),将那些经常发送垃圾邮件的IP地址(甚至IP地址范围)收集在一起,做成block list。电脑,技术,IT,学习,交流,网络安全,QQ,硬件,软件,编程,教程,建站- p; G7 t- X8 W
0 E7 [0 ^) U( ~0 k电脑,技术,IT,学习,交流,网络安全,QQ,硬件,软件,编程,教程,建站 目前很多邮件接收端都采用了黑白名单的方式来处理垃圾邮件,包括MUA和MTA,当然在MTA中使用得更广泛,这样可以有效地减少服务器的负担。
8 C4 [ _' g% ^: x1 J电脑,技术,IT,学习,交流,网络安全,QQ,硬件,软件,编程,教程,建站电脑,技术,IT,学习,交流,网络安全,QQ,硬件,软件,编程,教程,建站, x) F$ K% K0 j5 z0 i- X) ^
梭子鱼的BL一部分采用国际上共享的列表,公司有专门部门收集整理BL。实时动态更新。白名单则与黑名单相反,对于那些信任的邮件地址或者IP就完全接受了,由用户自定义设置。 e3 g2 R. r; }
; x6 C# j' }) U, Q J+ d我爱电脑技术论坛 简单的关键字搜索
) A' V" \) y/ h9 }9 l0 K; dwww.520diannao.com我爱电脑技术论坛/ o$ w0 _6 k0 f( x# L
简单的关键字搜索一直是对抗垃圾邮件的基本方法。这一功能存在于垃圾邮件成为互联网的主要问题之前,那时作为内容过滤的一部分和基于反病毒产品的解决方案和服务。
9 w, S- f' h$ b+ e电脑,技术,IT,学习,交流,网络安全,QQ,硬件,软件,编程,教程,建站% N. E u$ } m3 _) T( R% Q
因为它没有文字变化或者上下文对照,所以这种方式只能用作鉴别垃圾邮件的办法之一,但存在很多错误,合法邮件被误判为垃圾邮件。
5 Z8 N! O0 [! m; O& ]/ G我爱电脑技术社区--打造最好的电脑技术自学交流平台
! p# q( L* U" X; G打造最好的电脑自学交流论坛 梭子鱼400型号以上产品具有用户自定义控制功能,即用户自行定义关键字,来决定系统对过往邮件的评分。我爱电脑技术论坛) r) { C( H( c% D* K5 {- g& E
www.520diannao.com, t% e5 P0 S) m* u, ~
标题过滤和信件头测试
' k& n: V! O: w6 y6 e% L; M+ C4 a- h
信头测试意味着邮件已通过SMTP协议。例如信件的寄件人和收件人,如果不合法的信息被传输的时候,...将递送一个通告并拒绝递送该信息。信头测试是从收件人,发件人和日期中测试有问题的邮件,如果包含错误形式或者信息便予以阻止。
* j' m$ q& |2 F8 U4 b; H/ B+ \" p
E$ }8 F% L- c6 Ewww.520diannao.com 这些能力用于删除垃圾邮件是非常有效的,他们最后保证邮件是被正确的传送,不管是不是垃圾发送者发出的信件,只要其中包含了垃圾邮件的信息就会被拦截,否则就说明邮件的转发者没有安装反垃圾邮件设备。4 v2 D+ e; G6 c
3 `8 f' R" y7 X: y0 t6 D" I我爱电脑技术社区--打造最好的电脑技术自学交流平台 梭子鱼所有型号都可以设置或者用户自定义设置标题,信头黑白名单,是系统对邮件的评分标准之一。
9 z3 c) @# t8 w" |电脑,技术,IT,学习,交流,网络安全,QQ,硬件,软件,编程,教程,建站, E/ g' Q- _8 y$ s2 X& r( e& _
简单的DNS测试
3 ~8 Y1 f2 _% b2 {www.520diannao.comwww.520diannao.com- _0 s6 n+ U, m- j
使用SMTP协议交换发送者信息的时候查询发送者的互联网域名可以验证这些信息是否准确。比如,查询发送者的域或者发送邮件的主机名是否存在(通过查询发送者域的IP地址和主机名是否对应)
5 Z( m l, C! T; i电脑,技术,IT,学习,交流,网络安全,QQ,硬件,软件,编程,教程,建站
B6 l9 z0 ^ G5 }我爱电脑技术论坛 简单的DNS测试帮助防治“电子欺骗”(当一台机器使用虚假用户名的时候).尽管简单的DNS测试是阻断垃圾邮件的重要工具,他们只根据发送者的用户名和地址进行阻断,不论寄件人是一个垃圾邮件发送者或者信件本身是一封垃圾邮件,因此不是一个反垃圾邮件技术。简单的DNS是一项比较弱的技术,因为无法指示出邮件是垃圾邮件的必然原因。/ \6 H, _0 ]- m* a% n8 v
我爱电脑技术论坛2 D! g& R$ U) d& G x: d
梭子鱼的Dns反查系统,新型反向查找技术是简单DNS测试的综合应用。电脑,技术,IT,学习,交流,网络安全,QQ,硬件,软件,编程,教程,建站6 ^% S3 @/ i9 \1 I @+ j
+ S# X) t$ ]0 F. F: x! F( V
第二代反垃圾邮件技术我爱电脑技术社区--打造最好的电脑技术自学交流平台4 C1 o6 U! k7 F; N) l/ ]3 p
* F8 d) c l1 b# u1 q: Dwww.520diannao.com 即时黑名单和电子签名是第二代反垃圾邮件技术,因为他们不是为了反垃圾邮件而把现有的MTA技术简单的重复或者延伸。第二代反垃圾邮件技术的存在完全为了制止垃圾邮件和对先前的技术进行改良。电脑,技术,IT,学习,交流,网络安全,QQ,硬件,软件,编程,教程,建站7 i) @/ k2 u2 E; U2 w3 z# l
4 `6 w" ^* ]" d; }! D
实时黑名单打造最好的电脑自学交流论坛% t0 S! t& x* F( P$ R5 q
0 M1 y7 g& v7 g |9 i* l打造最好的电脑自学交流论坛 尽管在基于网址和域名上它是一个DNS测试, RBLs是真实的反垃圾邮件技术,在RBLs之后的概念是简单的维护一个发送垃圾邮件的网址,以阻止垃圾邮件的继续发送。9 x Q: N" T" h0 \* K
+ J3 C( ?1 {9 v8 C; L: a5 ^www.520diannao.com 这种技术会有一定的效果,但容易被绕过。比如,改变IP地址,或者利用第三方的服务器来发送垃圾邮件。同样地,域名很容易被获得,并被垃圾邮件发送者利用,因而不能完全依赖它来判别垃圾邮件。打造最好的电脑自学交流论坛& D9 D2 |! W- x4 c- y
打造最好的电脑自学交流论坛' |6 k6 d/ S1 u4 j/ b3 M
也被称为DNSRBLs,梭子鱼检查所有收到邮件的IP地址,与在RBL中的IP地址核对来阻断垃圾邮件。电脑,技术,IT,学习,交流,网络安全,QQ,硬件,软件,编程,教程,建站; g; p1 p4 m2 Y) G# I4 w9 z4 N a
0 y0 M4 ]6 f! a打造最好的电脑自学交流论坛 电子签名
: A$ d3 v8 N' A8 B- K
' t1 I4 S2 \& m" Q# ^9 ~: D% y! k% Y打造最好的电脑自学交流论坛 这是对于垃圾邮件防御有重大意义的一项技术。电子签名技术就是,如果垃圾邮件以大量的相同信息发送,可以用电子签名技术产生一个唯一的电子签名来收集和辨別垃圾邮件。如果能够获得充足的垃圾邮件样本,对于降低垃圾邮件的比率有重要意义。但是这种技术需要及时操作才能达成效果。
4 u& t' D. P3 Y. G- a: ~4 k' Hwww.520diannao.com0 P- J( f7 c* k4 o+ ?, O" w9 C
例如梭子鱼先设置蜜罐(诱骗邮件地址),是用于收集大量的垃圾邮件。采集完成后,指纹识别技术就处理垃圾邮件,生成一个已知垃圾邮件数据库。这就是梭子鱼的指纹识别技术。打造最好的电脑自学交流论坛' |& b/ c* C) h0 x' e4 a* L
) q( n, G3 P. I7 E) T我爱电脑技术社区--打造最好的电脑技术自学交流平台 第三代反垃圾邮件技术
$ ]5 t# x% O0 K+ ]" c3 Z+ f我爱电脑技术社区--打造最好的电脑技术自学交流平台打造最好的电脑自学交流论坛 D; ^! W" ?7 H2 |) i x' N
用鉴别垃圾邮件(签名)和即时黑名单(RBLs)的方法来抵御垃圾邮件注定失败。垃圾邮件发送者能够轻易的绕过即时黑名单,最好的电子签名技术也无法达到百分之百的正确率。大约在2002年,在互联网和软件行业中有一项全新的技术。我爱电脑技术论坛- v8 j q( ^& K9 U
www.520diannao.com2 @* z7 C* U+ U
贝叶斯过滤
9 K( A+ q" {, Y1 o" h r7 G
; |/ p) u% Y* z! N) W, z/ n我爱电脑技术论坛 贝叶斯过滤,利用统计学的方法检测垃圾邮件,基于垃圾邮件中单个词语的出现概率来判定,这是反垃圾邮件技术上的第一个突破,贝叶斯过滤技术的发展从根本上把反垃圾邮件的重点从网络和协议改变为邮件内容。电脑,技术,IT,学习,交流,网络安全,QQ,硬件,软件,编程,教程,建站7 o* N* N6 s! Y# i8 f9 k
我爱电脑技术社区--打造最好的电脑技术自学交流平台! p0 L5 g' g6 ?: e4 K- u- B" u! Y
简单的贝叶斯过滤,对大多数的垃圾邮件是有效的,容易被绕过。这种技术是用已经收到的垃圾邮件来培训系统,从而产生一个基于规则评分的系统,来为每封邮件评分。
9 @: k9 C0 e9 M& gwww.520diannao.com打造最好的电脑自学交流论坛* D. C( @6 c0 Y6 S9 u
垃圾邮件发送者会不断的改变邮件的内容,通常是增加词汇或变种词汇(例如,用印刷体字母取代数字,O取代0)。不断变化中性词语和其他邮件内容以及创造变种词汇,使得位于反垃圾邮件系统最后一个步骤的贝叶斯过滤常被绕过。
& ]. u" a! Z: f5 }2 g! D) T3 U打造最好的电脑自学交流论坛
6 Z, f2 W8 @* l& m ^9 c! k我爱电脑技术社区--打造最好的电脑技术自学交流平台 梭子鱼的贝叶斯规则库在出厂之前都经过近万封邮件的培训,到达用户之后,用户继续对其进行培训,被“有效培训”以后,过滤垃圾邮件的准确率达到99% 。
' @* f5 F) |1 S: z" W' Y Zwww.520diannao.com电脑,技术,IT,学习,交流,网络安全,QQ,硬件,软件,编程,教程,建站$ M* ]/ p: n. O- `. l* b5 z
人工智能和机器语言学习www.520diannao.com8 |; t/ T7 g% e3 B4 ?8 p& i0 O
9 Z% { n( `, k$ E* ~2 X
经过贝叶斯过滤技术改进发展而来,目前将被广泛的应用。www.520diannao.com* w. e3 Z% H7 [* a! m/ |, \
www.520diannao.com" X( O- g- m" A1 L* ?" y
2003年左右,由于新的需求,专门的反垃圾邮件技术开始分离出来,并和一些高科技结合,不断的发展起来。打造最好的电脑自学交流论坛" [# U. g; ~* m( D3 J) x
www.520diannao.com* |3 H. R9 `; e
基本上,这些技术执行文件分级使用“非贝叶斯过滤技术”。根据垃圾邮件的变化进行自我更新,目前这一技术正将被广泛使用。
0 j$ m: w* ^# u2 X/ V7 _; @( _打造最好的电脑自学交流论坛我爱电脑技术社区--打造最好的电脑技术自学交流平台8 ]5 [4 ?# r2 X2 K# R% A
梭子鱼的基于规则的评分系统,是一个人工智能(AI)系统 ,对发现的每一个关键词赋予分数 。分数越高,该邮件是垃圾邮件的可能性就越高 ;得分超过一定值时,该邮件将被分类为垃圾邮件。这种方式可以清除90%的垃圾邮件。为使评分有效,规则必须经常更新 。