第12章 飘散如烟12

原来喝酒是这样的,与她想象的完全不一样。

她学着他的样子,举起酒杯,轻轻与他相碰,仰头咪一口,随着电影咯咯笑起来。

电影很吓人,这个女孩却并不害怕,她说她刷遍了世界各地的恐怖片。

程霆说她老鼠胆子,不怕鬼,却怕人。

她不好意思的笑了。

他默默看着她,看她喝完一杯,再给她添上。

他对电影没兴趣,电脑放在腿上,低头看着什么,T恤领口很宽,肩胛骨顶起布料,时不时拿起杯子,仰头喝酒时,喉咙上的小疙瘩一滚一滚,下巴锋利得像刀切出来的。

正在播放的电影被摁了静音,毛茸茸一团蠕动着凑过来,呼吸已经带了点酒气,娇憨问他:“程霆,你在看什么?”

“论文。”

“谁给你的呀?”小姑娘的头发蹭在他手臂上,很痒。

她不知道,她只是问了一个很普通的问题,但在程霆这里,千帆过尽。

“随便找来看看。”

林葵的意识有些些混沌,但她很清晰地知道,程霆变得和以前有点不一样。

以前他不会捧着电脑敲代码,以前他不会主动去看专业论文。

一切从他说要帮她修米老头那天开始。

女孩小动物似的挨着他,不看电影了,看他的电脑。

“信道极化……一种对称二进制无记忆信道构造容量实现码的方法”她嘟哝着,太生涩,眉头不自觉蹙起,摘要都没读完。

而程霆,以一种意外的目光看向她。

这是一篇全英文论文。

林葵迎向他,在莹莹的屏幕光下,认得他眼中的赞许。

就有点骄傲——

“外婆教我!”

“外婆上过女校,还留洋!”

“外婆还会俄语!乌拉!!”

她像只小麻雀,叽叽喳喳,衣服与他的衣服摩擦,自然卷撒娇似的缠着他手指,等她停下来,唯有雪声簌簌。

他们看着彼此,明明家里很温暖,却在心底眷恋对方。

女孩抱着膝盖,小声问:“Arikan是谁?”

“不是看得懂?”

“每一个字都懂,连在一起就是天书。”

“你的手机是宇通吧?”程霆问。

“嗯!支持国货!”

“宇通最近给他颁了个奖。”

“为什么?”

“说来话长。”

女孩期待着。

“要从另外一个人说起。”

“我想听你说。”林葵给他端酒杯,让他润润喉再说。

程霆从电脑里调出另外一片论文,小麻雀朗读:“A mathematical theory of communication?”

程霆又调出一本书籍的电子档,她看了看,唯一的不同是标题的第一个单词从A变成了The.

The mathematical theory of communication。

“1948年,香农发表了论文《通信的数学理论》,一年后,当它出版成册时,标题发生了变化,虽然只是一个单词,但意义巨大,从此以后,它成为所有科学文章中引用最多的论文之一,并由此诞生了信息论。”

“香农?”

“高一数学有提到。”

“我一点印象都没有……”

“你是不是数学不好?”

“嗯QAQ”

他笑了一下,说:“香农想知道信息是怎么传递的,这篇论文第一章的第六小节,他给出了信息熵的公式,成功量化了信息。”

程霆的讲述深入浅出:“信道就是信息传输的通道,比如光纤、电缆、无线电。我们把信息假想成水,那信道就是水管,信道容量就是水管单位时间内能传输的水量。

如果想象成车,信道就是车道,车道拥堵,也就好比上网卡顿,网速慢。”

小姑娘点点头,表示听懂了。

程霆问她:“什么是好的通信?”

“快?”

“是接收到的信息和对方发送的一模一样,不会漏掉哪个词让你听不懂。”

“香农给出了信道容量的公式,我们将这称之为香农极限。香农极限就像光,几十年来人们努力靠近,几乎达到但还没有。而Arikan教授倾尽一生,通过极化码达到了香农极限。

“极化码?”

“简单来说,通过异或的特性,增加信道,当信道足够多,将有效信息都编码在好信道里,舍弃无用的差信道,信息就能无损,而整个通信模型的信道容量刚好就是香农极限。”

“这个通过牺牲部分信道来提高整体传输率的过程,就是极化。”

他看着她:“如果你听懂了我的话,我们就是一次好的通信。”

林葵伸手,戳戳他的手背:“biubiu,接收良好。”

1.

香农,通信祖师爷,1948年发表的论文《通信的数学理论》,从此才有了信息论这个专业,他开启了一个学科。

(同志们,世界的尽头是数学。)

而香农在开创信息量之前,就留下了被誉为二十世纪最高水平的硕士论文——

《继电器与开关电路的符号分析》

被视作今天计算机最底层设计的开端。

简单来说,香农也是计算机的开拓者。

通信原理的抽象公式基本都有香农的贡献,对传播学最大的贡献是引入了反馈这个词,

我严重怀疑老爷子是穿越的(狗头)

2.

我们现在很火的AI就用到了信息熵。

3,

香农在哈特莱的研究基础上完成公式,他把对数的底从10变成了2,以2为底,很符合他用0和1描述世界的逻辑,二进制从这里出现,然后苏联开始研究三进制

香农公式,一定存在某种方法使在发送速率小于信道极限传输速率的信道保证可靠传输。

信道容量就是最大互信息,互信息是一个测度,是一个随机变量包含另一个随机变量信息量的度量

4.

什么是好的通信?

是接受到的信息和对方发送的一模一样,不会漏掉哪个词让你听不懂,

不确定自己听到的对不对,就叫疑义度,H(X丨Y),是损失掉的,

散布度H(Y丨X),是噪声引入的

损失的越少,听到的信息就越大,传输过程中,理论上能传输的最大互信息,就是channel capacity,信道容量

降噪耳机也是一样的道理,噪声是可以被克服的

5.

Arikan首先解决的是BEC信道,也叫二进制擦除信道,binary erasure channel

Erasure 擦除,这是信号损失的形象说法,这个信道只有两种可能,要嘛擦除,接收端完全收不到信号,要嘛成功,完整传达,不存在传达部分

按照网上大佬的解释,我简单一点跟大家说一下,

假设有P的概率被擦除,那么成功传输的概率是1-p,前面我们讲过,信道容量的定义是最大互信息,他证明信道容量c就是1-p

1是必然事件,p是不确定因素

由于为p的信息在信道中损失,我们最多只能传输1-p,假设p是0.5,那就最多可以让一半的信息无疑义的传输成功

但能不能达成1-p就是香农所谓的极限?

我们来了解一个词,异或,

(异或是一种二进制数□□算,两个相同的数据异或,结果永远为0:不同得为1)

(异或就是信息内容的差别集合,通过这一步,信道带有全部信息。类似调制解调器)

(伽罗瓦二元域里加和减是一样的运算,这里的异或就是伽罗瓦域里的加法。)

Arikan教授用两个BEC信道进行一种操作,U2直接传输信道二,U1在传输信道一之前,与U2异或得到X1,

再传,

也就是U1异或U2得到X1,

U2=X2

这样做的目的是使信息传输最大化,把信息按照约定编码标记拆分传输再根据编码组合达到更低的丢失率,压缩数据通过不同信道传输提高抗干预和传输速率

异或有个很厉害的特性,A异或B后得到C,

假如再将C和B异或,就能还原A

我们靠这个公式进行解码

还是刚刚的两个信道,我们收到两个信号,Y1和Y2,那么,如何还原U1U2呢?

BEC信道的特点是,只要传输成功,那就是正确的,那么

已知X1异或U2=U1

X1=Y1

X2=Y2=U2

那么,U1=Y1异或Y2

将计算合并,只有U1=Y1异或Y2这个结论,那么就创造了一个新的信道,在这个信道里,信息传输成功的概率变成了1-p乘1-p

被擦除的概率就是1-p的平方

假设p是0.5,那么这个新信道的信息将有0.75的概率被擦除

相较于一开始的概率0.5,这个新信道明显变差

既然有一个差信道,那么就有一个好信道

从刚才的U2入手,也得到一个新信道,这个信道的擦除率只有0.25,是目前最好的信道

如果按照这个安排增加信道,仅仅用八个信道相连,通过异或,出现了擦除率为0.0039的信道。

那么,只要将有效信息都编码在好信道里,舍弃无用的差信道,信息就能无损。

6.

在编程中用异或来实现不借用第三个变量让两个变量交换数值。

7

通信工程专业学在我这里就是天书。

明天见嗷!~

作者有话说

显示所有文的作话

第12章 飘散如烟12

梦远书城已将原网页转码以便移动设备浏览

本站仅提供资源搜索服务,不存放任何实质内容。如有侵权内容请联系搜狗,源资源删除后本站的链接将自动失效。

推荐阅读

灯火通明处

烟熏生锈钉

只要你

女攻们的“待嫁”男O[GB合集]

风继续吹

< 上一页 目录 下一章 >
×
春迟
连载中惜禾 /