粤公网安备 44011302004783号 紧急预警!AI权力整合风险加剧？未来或面临环境恶化等问题
新媒网跨境了解到，在2025年7月31日，外媒发布的一篇报道中，重点关注了人工智能（AI）发展背后所隐藏的成本问题。该报道援引AI Now Institute的观点，指出当前对通用人工智能（AGI）的追逐，可能导致权力整合等问题。
AI Now Institute是一个专注于研究AI的社会影响以及科技行业权力整合的智库。该机构近期发布了一份名为《Artificial Power》的报告，详细阐述了驱动当前AI热潮的政治经济因素，以及可能对社会各界产生的影响。
该报告对“大而不能倒”的神话提出了质疑。报告认为，尽管商业模式尚不稳定，公共责任也有限，但AI公司仍在投入数十亿美元用于构建庞大的计算基础设施和基础模型，并且常常获得政府的支持。
这种在2030年前实现AGI的推动力，已经产生了现实的影响。外媒指出，即使AI承诺未来能够解决人类面临的难题，但短期内，社会已经面临着环境恶化、歧视性算法、民主机构瓦解、数据隐私缺失以及国家安全风险等问题。
AI Now Institute的Amba Kak和Sarah Myers West博士认为，这些结果并非不可避免，而是一系列选择造成的。Kak解释说：“我们所被推销的未来并非不可避免。”
该报道还深入探讨了以下几个方面：
1. AI领域日益增长的权力整合及其与大型科技公司权力动态的相似之处。
AI Now Institute的报告强调，AI行业的权力正在以前所未有的速度整合。少数几家大型科技公司，凭借其雄厚的资本、庞大的数据资源和顶尖的技术人才，几乎垄断了AI基础模型的研发和应用。这种权力整合与过去大型科技公司所展现出的权力动态非常相似，可能导致创新受限、市场竞争减弱以及对社会价值观的潜在威胁。
2. 硅谷对特朗普的AI议程的支持，以及监管AI所面临的挑战。
报道指出，美国总统特朗普提出的AI行动计划，受到了硅谷科技公司的欢迎。这其中的原因在于，该计划强调减少对AI发展的监管，并鼓励创新。然而，AI Now Institute认为，这种放松监管的做法可能会加剧AI带来的潜在风险，例如算法歧视、数据滥用和隐私侵犯。因此，如何在鼓励创新的同时，建立有效的AI监管框架，成为一个重要的挑战。
3. AGI炒作与当前现实危害之间的脱节。
尽管AGI被描绘成一个能够解决各种社会问题的未来技术，但AI Now Institute的报告强调，当前AI技术已经对社会造成了现实的危害。例如，面部识别技术被滥用于监视和歧视特定群体，算法在贷款、招聘和刑事司法等领域存在偏见，加剧了社会不公。因此，在追求AGI的同时，必须关注并解决当前AI技术所带来的实际问题。
4. 一个民主、公正和负责任的AI未来会是什么样子。
AI Now Institute认为，一个民主、公正和负责任的AI未来应该是以人为本的，而不是以技术为中心的。这意味着，AI的开发和应用应该充分考虑社会价值观、伦理原则和人权保障。此外，AI的决策过程应该透明、可解释和可追溯，以确保其公平性和公正性。同时，需要建立有效的监管机制，防止AI被滥用，并确保其符合公共利益。
新媒网跨境注意到，该报道还提到了外媒TechCrunch的播客节目“Equity”，其中详细讨论了这些问题。该播客由Theresa Loconsolo制作，每周三和周五更新。
新媒网（公号: 新媒网跨境发布），是一个专业的跨境电商、游戏、支付、贸易和广告社区平台，为百万跨境人传递最新的海外淘金精准资讯情报。
评论（0）