【只要人人都献出一点“算力”,这世界将…】1995年,美国UC伯克利大学的助理教

寄春看科技 2023-03-22 07:57:41

【只要人人都献出一点“算力”,这世界将…】1995年,美国UC伯克利大学的助理教授David Anderson发起SETI项目,利用分布式计算模式,聚集全球计算机共同寻找地外文明。联网的家用计算机可以运行免费程序,利用剩余算力分析射电望远镜采集的信号数据,结果聚合的算力超过任何一台超级计算机。

如果AI大模型的训练计算也用分布式计算模式呢?全中国的家用PC只要拿出空闲算力的1%,将形成超级算力。实际上,已经有人这么干了。BigScience社区正在开发名为 Petal的系统,以分布式计算方式在家用电脑上运行大语言模型,Petal当前支持性能与GPT-3相近的BLOOM-176B大语言模型。

0 阅读:1
寄春看科技

寄春看科技

感谢大家的关注