3月24日,月均安装量达9500万次的开源AI工具LiteLLM在PyPI仓库发布的两个版本(1.82.7和1.82.8)遭供应链投毒。这两个恶意版本携带复杂的三阶段攻击负载,能窃取SSH密钥、云凭据等敏感数据,并利用.pth文件实现自动触发,隐蔽性极高。攻击由黑客组织TeamPCP发起,其通过此前入侵的Trivy工具获取了LiteLLM的发布权限。受影响用户应立即检查版本,更换所有相关密钥,并降 ...
最新上传的LiteLLM Python 版本1.82.7和1.82.8,已被人为恶意植入信息窃取程序。 一旦安装,SSH密钥、AWS凭证和API密钥等数据均会立即泄漏。 目前LiteLLM的维护者Krrish Dholakia,已经公开证实此事。 在恶意版本存在三小时后,PyPI迅速发现了这一漏洞,并将软件包隔离。但LiteLLM每天下载量约为340万次,许多自动安装新版本的程序员已经遭殃。 社区 ...
编辑|冷猫这是一件极其严肃的软件安全事件。今天,Karpathy 发长推文警告全部开发者注意,GitHub 超过 4 万星,月下载量达 9700 万次的 Python 库 LiteLLM 在 PyPI 上被投毒。首先提请各位开发者检查自己的 ...
Python 是大模型应用开发的首选语言,这得益于其丰富的生态系统和强大的社区支持。要开发一个成熟的大模型应用,你需要掌握一系列核心技术,这些技术可以大致分为以下几个层面: 这是所有开发的基础,对大模型应用同样重要。 Python 高级特性:熟练使用 ...
目前许多的Web应用和移动应用都使用了前后端分离的开发模式,前后端分离简单的说就是前端或移动端通过网络API接口和后台进行交互,获得接口中提供的数据并负责用户界面的渲染。API是应用程序的编程接口的缩写,网络API通常指的是基于一个URL(统一资源 ...
在对比GPT-5与Azure OpenAI的API接口性能时,延迟与费用成为关键考量。测试显示,GPT-5的平均延迟为1587ms,Azure OpenAI为1172ms,然而两者在波动性和高峰时段的表现有所差异,尤其对金融和电商领域影响显著。费用方面,GPT-5的每1000次调用成本为15美元,而Azure OpenAI为 ...
吴恩达(Andrew Ng)最近宣布, aisuite 的目标是围绕目前最流行的大语言模型(LLM)提供一个类似 OpenAI 的 API,使开发人员可以轻松地尝试并比较结果,或者在不更改代码的情况下从一个 LLM 切换到另一个 LLM。 根据吴恩达的说法,在同一个应用程序中使用多个 LLM ...
有开发者向记者称已收到邮件,其使用的微软Azure OpenAI服务将于2024年10月21日终止。原因是由于本地监管要求,在中国大陆,只有企业客户有资格订阅Azure OpenAI服务。 记者此前了解到, 使用微软Azure提供的OpenAI技术,是目前国内唯一合规渠道,但申请时一直需要 ...
我们知道,自7月9日起,OpenAI开始阻止来自非支持国家和地区的API流量,真正意义上对中国“拔网线”。 OpenAI一直是不对中国开放,只是之前有一些漏洞,可能有用户通过香港作为跳板使用API,大陆则是一直都不能使用,这回OpenAI理应是将这些地区都一并封锁了。