本文探讨了英国肝脏移植匹配算法中存在的年龄歧视问题。该算法基于患者移植后5年生存率的预测来分配肝脏，导致年轻患者即使病情严重也很难获得移植机会。文章指出，算法的设计缺陷在于目标变量的选择——5年生存率而非预期寿命——未能准确反映年轻患者的潜在获益。此外，算法对癌症患者的预测也存在偏差，一度导致癌症患者难以获得移植。文章批评了医疗系统对算法决策的过度依赖以及缺乏透明度，呼吁进行更广泛的伦理讨论和公众参与，以确保算法的公平性和合理性。
阅读更多
人工智能公司正转变思路，从一味追求创造“神”一般的通用人工智能模型，转向专注于开发实用性强、用户体验好的产品。虽然人工智能技术发展迅速，但要打造出可靠的消费级人工智能产品，仍面临成本高昂、可靠性不足、隐私保护、安全隐患以及用户界面设计等五大挑战。
阅读更多
文章认为，人工智能（AI）的存在风险概率预测过于不可靠，无法作为政策制定的依据。作者分析了三种概率估计方法：归纳法、演绎法和主观概率估计，并指出它们在预测AI存在风险方面的局限性。文章认为，由于缺乏可靠的参考类别、理论模型和评估预测准确性的方法，AI存在风险的预测存在很大的不确定性和主观性。此外，文章还探讨了预测中可能存在的系统性偏差，例如选择偏差和认知偏差。文章建议政策制定者应避免过度依赖AI存在风险概率预测，而是采取更加务实的政策，例如关注AI的里程碑预测和经济影响评估。
阅读更多
这篇论文探讨了人工智能代理（AI agents）的现状，分析了其定义、发展前景、面临的挑战以及评估方法。作者认为，虽然 AI 代理的概念被炒作，但其发展潜力巨大，尤其是在提高可靠性和成本控制方面。论文重点讨论了 AI 代理评估中存在的缺陷，并提出了五项建议：实施成本控制评估、联合优化准确性和成本、区分模型和下游基准测试、防止代理基准测试中的捷径以及提高代理基准测试的标准化和可重复性。
阅读更多
本文批评了科学界过度依赖人工智能的现象。作者指出，人工智能 hype 导致了研究缺陷，进而滋生了更多 hype，形成恶性循环。文章列举了人工智能导致研究不可复现的多个原因，包括数据泄漏、代码错误、评估指标不完善等。作者呼吁科学家将人工智能作为工具，而非神谕，并强调批判性思维和可复现性对科学研究的重要性。
阅读更多
该网站是一篇博客文章，认为 AI 排行榜不再有用。作者认为排行榜过于关注短期业绩，没有考虑到 AI 系统的长期潜力。作者还认为排行榜存在偏见，可能会误导研究人员和从业者。
阅读更多