larryxia的个人博客分享 http://blog.sciencenet.cn/u/larryxia

博文

过去与现在,算力已无边了?

已有 3413 次阅读 2022-12-14 11:52 |系统分类:海外观察

过去与现在,算力已无边了?

许秋雨,2022.12.13


就在二十多年前的过去,由于芯片的限制,工业界即使解线性方程都不愿意,只对线性复杂度求解才有兴趣,如单用户检测(despreading),通信里的收发机只做时域处理,所以信道不能是宽带,当然传输速度也慢。

后来由于芯片的提升,工业界接受了做快速付氏变换(FFT),它比线性N稍微多一丁点,N lnN,就这一丁点就让工业界苦等了十几年。这才让手机真正过渡到宽带的4G,从而让你随时可以与你的朋友视频。难怪早前工业界解线性方程都不愿意,因为它的复杂度是三次方的,即N^3。

从2011年的4G到现在又是十年左右的时间。不过现在人们似乎早已忘记了过去,早已不再关心计算复杂性。早已认为算力是无边的。现在解线性方程不是太复杂不愿解,而是根本就看不上。不把问题弄成非线性的,就不罢休,眼睛都不会瞧一下。哪怕是再简单的问题,都非要用神经网来解。很多学生一上来就学统计学习、学机器学习,学完后不知道怎么线性求解,不知道怎么算二阶矩,只知道TensorFlow。

原来用线性方程一下就解出来的似乎根本不是解,非要用非线性逼近无法一次解出来才算明白。其实非线性问题的求解本不像线性问题一次能解出,只得一点点搜索,穷尽。如果这样实在做不了,就迭代,其实就是死马做活马医。可是明明本来就是好好的活马不要,非要把它做死马医。

难道计算复杂度真的不是问题了么?短短十几年前工业界二次复杂度都不愿意接受,现在能做穷尽(或者遍历)解?还是得盲目地听"专家"随机给定一个方向去迭代遛达?这样能遛达到真正的解么,还是只能打个赌?我知道,实实在在的通信是打不了赌的,否则我可不愿在手机上发电邮。难道刷脸可以打个赌么?

追其原因,至少在通信里,我觉得其实目前的主要技术还是十多年前的,除了增加带宽外,本质上并没有太多的改变。而计算复杂度高的那些东西,介于各个大厂之间的政治因素,都只是optional,让厂家自己决定做不做,在实际产品中他们当然是不会做的,否则怎么竞争得过别人的产品?




https://blog.sciencenet.cn/blog-3395313-1367845.html

上一篇:陈子美
下一篇:【新冠肺炎】三年祭
收藏 IP: 173.59.42.*| 热度|

9 彭振华 郑强 曹俊兴 杨正瓴 尤明庆 王安良 朱豫才 宁利中 孙颉

该博文允许注册用户评论 请点击登录 评论 (3 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-11-24 14:07

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部