人工智能政策

PCV的客户、顾客、同事、行业合作伙伴和支持者，, 

人类文明已经进入了一个新时代，即4世纪。th工业革命以及人工智能 (AI) 和机器学习 (ML) 等技术创新带来了强大的力量和潜力，可以简化我们的业务运营，产生想法和内容，并以超越人类能力的速度处理海量信息。. 

PCV长期以来是一家以数据驱动、兼具“高科技与人文关怀”的机构，是美国最早的影响力投资机构之一。PCV致力于投资小型企业主的激情和韧性，帮助他们创造优质就业机会，提升经济流动性、气候适应能力和财务福祉，同时改善历史上服务不足的社区。PCV也是一家获得联邦和州政府认证的社区发展金融机构（CDFI），代表着一个源于民权运动的经济正义支柱领域。30多年前，联邦政府承认正规金融行业存在历史上的歧视性住房政策，此后该领域应运而生。. 

我们认识到人工智能可能带来的伦理问题，以及它对我们的员工、客户、消费者和社区可能产生的正面和负面影响。我们致力于持续研究和了解人工智能能力提升过程中产生的算法偏见，尤其是在与我们业务相关的敏感行业，例如金融决策、招聘和刑事司法领域。. 

因此，我们正在制定、实施并定期更新一项关于人工智能和机器学习的合乎道德使用的全面政策，该政策与我们公司的价值观、使命和目标相一致。.我们认为，利用任何人工智能或机器学习应用、工具、方法或系统的决策都必须维护个人和社区的同意、数据自主权和隐私权，以及对人类能动性和尊严的尊重，同时最大限度地减少对气候的不利影响。. 

因此，在使用人工智能和机器学习技术时，PCV严格遵守接下来的六个 核心原则: 

1. P简历 必须确保人工智能带来的益处最大程度地减少其造成的危害，并且不得对任何人造成伤害。 特定群体 或对某些人造成不成比例的影响。.
2. 个人电脑V 必须选择或开发基于人口统计分类数据训练的人工智能，以防止对任何个人或群体造成歧视或不成比例的伤害。 通过使用 该人工智能系统。我们承认，未经比例训练的算法 均衡 人口统计数据 几乎总是 低收入人群表现更差, ， 在下面代表，或 服务不足的群体。.
3. T人工智能系统绝不能用于歧视或排斥个人。 客户，, 顾客, 或在业务过程中与一群人接触。. 人工智能系统包括但不限于预测模型、匹配算法、支持台聊天等。 机器人, 推荐引擎、用于营销和传播的自动生成内容、用于自动化管理任务（例如财务、贷款处理和报告）的工具和脚本等等。.
4. 人工智能 PCV使用的系统必须 随时 优先保障客户的隐私和数据权利，以防止数据被滥用或垄断。和为了确保我们遵守贷款层面的隐私法规，因为我们 有义务的 作为 社区发展金融机构. 客户包括 小的 商业企业家 及其员工。客户包括其他社区发展金融机构或以使命为导向的组织，PCV 在其作为数据、分析、机器学习和人工智能能力建设者的角色中为其提供支持。PCV 承诺严格保护客户数据。, 随时, 保持 这些数据位于防火墙保护的环境中，与其他程序数据隔离。. 客户和顾客 将 维持 他们有权要求访问自己的数据并将其从 PCV 系统中删除。. PCV将开展 最好的 努力 满足这一请求。. 
5. 人工智能系统应该用于告知和 支持人工智能系统必须始终将人类的批判性分析和决策纳入考量，绝不能取代人类的决策，在任何情况下都不能脱离监督独立运行，更不能作为完全自主的系统。人工智能系统的设计必须始终以人类参与决策为核心。.  TA 的 AI 和 ML 系统变得越来越自主和智能；以下示例并非详尽无遗，但旨在为 PCV 工作人员提供指导： 
   • 编码代理（Claude Code、Copilot、, 反重力，朱尔斯, ， ETC。.): h重 且无人监管 PCV禁止依赖编码代理。. 编码代理可能是 杠杆 期间 算法-建筑，, 构建数据工程工作流程, 软件开发、测试和部署, 仅有的 检查s 人类编写的代码，, 作为 工具 协助 故障排除, 可作为生成测试脚本的辅助工具，并可作为高效部署的指南。. 编码 代理人 绝不能是 激活用于生成新的、未经监督的代码的任务, 访问数据,  文件夹, 数据库, 或其他没有明确说明的存储库 人类 许可n, 刮 未经明确人许可，不得使用任何已存在的内容, ， 或者 是 允许 自主运行脚本 或行动 任何未经两人审查、测试和……而进行的产品， 正式搬家 代码库 投入生产。. 在任何一点 在技术项目生命周期中，开发人员必须能够解释一行或多行代码。 受到质疑。无法提供 理由或 适当水平 透明度 由技术人力资源 将被假定 作为 一个迹象 的 未经授权的人工智能使用.   
   • 法学硕士辅助写作: f完全自主写作（例如，, 利用 OpenAI、Claude 和其他工具的输出她 法学硕士, 并代表 将它们作为自己的作品） 严禁 在 PCV，工作人员可以使用此类工具 顶将写作过程移植到写作中——例如进行头脑风暴 提出新的项目构想，开展一手资料研究，协助撰写结构完善的项目提案大纲。, 对最终内容进行语法和拼写检查, 及类似 轻量级编辑功能, 但实际的书面内容必须是 是作者自己的作品，代表了作者自己的原创思想。. 向经理汇报最终成果时 或其他利益相关者，, PCV工作人员必须 透露 人工智能工具 使用 无论是口头、电子邮件还是作为脚注 撰写报告时，披露内容应包括所使用的AI工具、近似值等。吃枣 以及相关的活动 它被使用过. 
   • 人工智能生成的 抵押品： f完全自主的内容创作（例如，网站，, 幻灯片、标志、, 图形、社交媒体帖子、照片、视频、落地页, 风格指南，, 用户界面、用户体验工作流程, 和 品牌推广 例如抵押品） 未经彻底的人工审核 且未注明出处，, 在PCV，这是严格禁止的。. 员工可以使用 诸如 Base44、Miro、Figma、Canva、Framer 等工具, 尾随d 和其他 - 生成 旨在传达其理念和愿景的原型，, 协助 他们和同事们一起集思广益，并进行沟通。 最终的 规格. 然而，这种人工智能生成的抵押品应该 绝不应考虑 最终交付成果，也不能投入生产，否则 彻底的代码审查（为了 例子，, 新的 着陆页、网页（使用 sed 工具），以及管理层签字以确保品牌一致性稳定性，安全性, 以及知识产权方面的考虑。.  
6. PCV将 不使用 利用自主人工智能做出贷款决策 或做出其他具有重大影响的决定，而无需改变本政策。 并需经首席执行官批准。重要决策包括但不限于以下各项： 
   • D确定 哪些人会获得贷款，哪些人不会获得贷款。. 
   • D确定 哪些人将获得商业咨询支持，哪些人将不会获得商业咨询支持。.
   • D确定 我们将向他们介绍我们的产品、服务和新机遇，例如： 参与 在研究、新的试点项目或任何类型的激励措施中。. 
   • I如果某个特定的人工智能辅助决策存在任何疑问，, PCV将确保 任何团体都不得在没有获得任何PCV产品或服务的情况下被禁止使用PCV产品或服务。 引用具体事例 程序化 或贷款资格标准 或法律依据. 务必确保不向任何特定群体或团体隐瞒任何信息，同样，不得隐瞒任何信息。 a 之前 已传达的项目或贷款资格标准或法律依据. 

由于算法是基于贷款、招聘和刑事司法决策的大型数据集进行训练的，而这些数据集通常采用一种历史上将低收入和弱势群体排除在外的“风险”定义，因此，PCV 必须格外谨慎地选择用例，并制定相应的保障措施，以便在 PCV 和我们的社区金融行业内进行测试。我们意识到，这些新技术很容易逆转 PCV 迄今为止通过高科技、高触感相结合的方式所取得的成果，并可能以我们可能永远无法在不利影响被严重强化之前加以应对的速度和规模，加速社区金融领域的偏见。. 

PCV 认识到，我们作为一家社区发展金融机构、影响力投资者和社区发展组织所做的工作——就以下方面而言：如何我们现在部署人工智能，可能会为未来数年该行业树立先例。随着我们在PCV内部不断提升技术和人工智能能力，我们承诺与社区发展金融机构（CDFI）和影响力生态系统分享经验，倡导以客户和社区声音为中心的循证实践，防止偏见，遏制市场漂移，避免排斥，并确保我们及同行在服务对象方面获得其明确同意。. 

在与同行社区发展金融机构 (CDFI) 和其他以使命为导向的组织合作时，我们必须分享我们的价值观以及我们认为可接受的人工智能使用规范（详见下文）。如果在合作过程中，我们发现彼此在这些价值观和规范方面存在分歧，我们将有权终止合作。对于我们达成共识的组织，我们将致力于构建一个实践社区，以帮助推广能够提升所有人（尤其是服务不足人群）人类尊严的人工智能标准。. 

以下是更具体的指导原则：

1. 始终要注明人工智能的使用情况: 每当人工智能协助创作内容，例如共同撰写文章或…… 完全创造 在内容中，员工必须确保对所使用的AI系统或工具给予适当的署名。这必须通过添加脚注或其他方式来实现。 在 文件或出版物。.
2. 确保数据隐私: PCV 深知在向人工智能应用输入数据时，保护敏感客户数据和公司机密信息的重要性。员工在使用任何人工智能工具之前，必须阅读相关的数据安全说明，并获得首席数据官和首席执行官的批准。 启动 使用方法（见下文）。PCV 将确保 适当的安全措施 已采取数据匿名化、加密、插件工具和访问控制等措施（以降低第三方工具的风险）， 防止未经授权访问或使用此类信息。.
3. 决策时要谨慎。: PCV 认识到人工智能可以自动化一些标准流程，从而辅助决策。然而，我们必须谨慎行事，确保人工监督是流程中不可或缺的一部分，以避免出现带有偏见或歧视性的决策。PCV 及其员工承诺定期审查所使用的人工智能系统和工具，以确保其准确性、公平性和透明度。PCV 将为员工提供关于人工智能伦理使用的培训，以确保其符合伦理规范。 杠杆 为人类决策提供信息和支持，而不是 把它移开。.
4. 与值得信赖的机构合作： PCV的高级领导层正在努力 建立 与值得信赖的机构建立伙伴关系，例如非营利组织、行业协会和研究机构，这些机构拥有 专业知识 在人工智能的合理和合乎伦理的使用方面，我们将定期寻求指导。 他们的指导 了解人工智能伦理实践，并将他们的建议纳入我们的政策和程序中。(例如，Code for America、Black Wealth Data Center、Data Equity 等。.)
5. 坚持透明原则： PCV及其员工必须确保人工智能的使用对所有利益相关者透明。, 客户，, 我们将向客户和社区清晰地传达人工智能系统和工具的预期用途、局限性以及任何潜在风险。 风险 利益相关者。我们还将提供一个渠道，供其就人工智能的使用提出反馈意见和疑虑。.
6. 致力于持续改进: PCV将定期审查并更新我们的人工智能伦理使用政策，以反映不断变化的趋势、最佳实践和新出现的风险。我们将确保我们的政策符合行业标准、监管要求以及我们公司的价值观和使命。. 
7. 测量偏差: PCV将使用 家庭收入, 邮政编码、邮政编码标识和人口统计数据 测量和 缓解 潜在的偏见。. 
8. 数据重塑工作组:  PCV将对以下方面应用相同的数据治理实践： 机器学习方法和 它使用的生成式人工智能工具 小贩 平台 Lenderfit, 家乡，以及/或者 Qooper. 有任何疑问吗？ 关于 偏见、安全、隐私或疏忽离子漂移 将会浮出水面 定期 内部的 数据治理 工作组 会议 讨论 并决定 和 内部的 利益相关者。. PCV 的任何员工也可以随时直接向 PCV 的首席数据官和/或首席执行官提出疑虑。.
9. 新工具的审批: 职员 场地-测试新的人工智能和机器学习工具需要向首席数据官兼首席执行官提交许可申请，阐明测试用例、预期结果或对PCV的附加价值，以及如何遵守上述准则。此外，他们还需要与外部顾问确认此政策，将其纳入外部合作备忘录，并获得确认签字。. 如果新工具携带 额外的 成本, 工作人员必须进行研究所有成本影响，, 确认 这 层级 或最……的包装 适合 使用工具前，必须事先获得首席财务官、首席数据官和/或首席执行官的明确许可。 启动 使用。. 每一个 额外的 请求的用户或许可证需要 通过相同渠道获得批准。. 提出建议的工作人员 新工具还负责 识别 本人工智能政策的任何变更 后果 使用该工具。新的政策指南必须 讨论 最好是在数据治理工作组论坛上提出，或者至少要经过首席数据官的批准并纳入政策中。. 
10. 用于会议转录和录制虚拟电话会议的AI工具：PCV 许可证 其员工 使用公司认可的虚拟通话 转录员/录音机 仅有的 在下面 下列 状况：
    • 工作人员必须仅使用和平队志愿者认可的应用程序（例如：Fathom）。, 截至2026年1月). 捉摸, 在 当时 写作, 是 这 一 这项服务在隐私和安全功能方面表现突出。它符合 SOC 2 Type II、HIPAA、CDPR 和 CCPA 标准。此外，它还具备一项功能，即在会议开始前，在授权录音之前，会先收集与会者的电子同意。. 如果员工希望提出 备用 解决方案, 它至少必须符合这些标准。该解决方案还必须 与……兼容 微软 环境和 必须获得首席数据官和首席执行官的明确批准。. 
    • 工作人员必须获得每个人的明确同意。 虚拟电话会议的参与者，包括所有内部或外部利益相关者，均需事先通知。 录音开始 和/或转录. 如果有人反对，, 职员 将会关闭录音机，并讨论其他收集信息的方法。 需要. 
    • 工作人员必须禁用录音应用程序中的所有自动功能。 一个） 涉及未经明确许可，录音人员进入会议的情况。 经人授予的许可 开始时, ， 和 /或者 b) 自动将录音和文字记录发送给所有会议参与者 会议结束时. 录音必须手动发送给提出请求的参与者，而且只有参加了原始会议的人员才能观看。 获得访问权限 记录 经过 PCV 职员.  
    • 员工必须 维持 这 最高级别 每份录像的安全 输出和 将每个录音视为 个人身份信息 (PII) 数据制品。这意味着 员工默认情况下，发起录制的用户是唯一有权访问该录制内容的人，并且他/她会根据最小权限原则授予其他人访问权限。, 首先由会议记录时在场的内部员工决定，其次由外部利益相关者决定。出席会议的长老们。. 如有其他人员要求查阅会议录音，和平队工作人员必须获得其主管和/或首席数据官的许可。 分享之前. 
    • 默认情况下，不会启用任何录音机或转录机。 允许 除非事先另有决定，否则在内部 PCV 通话中不会进行。 时间和 农业所有参与者都对此表示赞同。. 
    • 和平队志愿者在与所有外部人员通话时必须保持谨慎和警惕。如果…… 即使通话过程中泄露敏感信息的可能性很小，和平队志愿者工作人员也必须意识到这一点。 要求 要求对方停用其录音设备和笔记功能rs 如果双方签署了保密协议 （MNDA） 目前尚未到位. 如果 如果签署了保密协议，交易对手方可以 继续 录音的前提是，和平队志愿者团队要明确说明，只有特定人员才能访问该录音。 参与通话的人员。如果 MNDA 是 尚未到位，而且 i如果交易对手坚持 会议可以录音。 继续 只有 注意 和平队志愿者工作人员保证不会泄露任何敏感信息，并且 讨论将仅限于一般性内容。. 敏感信息包括任何客户和/或顾客的个人身份信息、PCV项目未公开的详细信息以及任何专有信息。 方法论, 工具、应用、技术ogy，, 和/或 过程 由PCV开发。. 
11. 人工智能工具的应用 自动完成: 人工智能工具正日益融入到日常应用和软件中，例如电子邮件、微软办公软件和编码平台。自动完成功能，或称“智能推荐”，现在 陪伴 大多数应用程序旨在提高效率。和平队员工是 允许 到 利用 Word、Excel、PowerPoint、电子邮件和其他软件中的自动完成功能 频繁地 虽然可以使用应用程序，但必须检查自动补全的内容是否准确。不建议使用自动补全的代码（例如：在编写 Python 或 R 代码进行数据分析或构建算法时），因为自动生成的代码通常会建议使用快捷方式，无法完全理解基于任务的使用场景，并且会创建一系列步骤，这些步骤的逻辑在代码审查期间可能难以理解。如果代码 推荐 使用工具时，开发人员必须检查所有逻辑、语法和输出的准确性，并在使用自动补全功能的代码中添加注释。如果向内部或外部利益相关者提供了不准确、误导性或“虚假”的内容，则不能将责任归咎于自动补全工具。 或人工智能 建议 绝不容忍。所有和平队员工都对其个人发布的内容负有个人责任，无论是否事先知情。 自动补全, ， 生产。. 
12. 平衡人工智能 利用率 和 气候影响： PCV工作人员必须始终谨慎使用人工智能。 考虑到其对气候的影响。一个好的经验法则是假设我 那 典型的 与……进行工作会议 ChatGPT （包含 20-50 个提示） 用途 16盎司 水的量，或者说一瓶标准水的量 一 买s 出于便利 店铺. 。 前 类似 ChatGPT、Claude 或其他工具, 是 用过的，, 员工必须 总是 考虑 是否值得 基本上是倾倒 一瓶水倒进了下水道。. 还有一些其他需要考虑的因素： 
    • 什么时候 PCV员工 部署 他们的r AI支持的工具（例如，, AIKKA) 并构建机器学习算法，, 他们必须 分析多次运行与优化准确率之间的权衡。 例子，, 如果 多种的 额外的 跑步 （例如，用于超参数调优） 需要将预测准确率从 92% 提高到 95%，增加 3%。 对于机器学习算法而言，, 雇员 应该 不承担 这 额外的 处理能量 花费 收益有限. 
    • 什么时候 PCV 选择s 系统和技术供应商, 它将 选择那些有 已证明 致力于数据中心基础设施的可持续发展。. 

通过采纳这项政策，PCV及其员工旨在促进人工智能的合乎伦理的使用，并在所有利益相关者之间建立信任。我们相信，负责任且合乎伦理的人工智能使用至关重要。 产生 为我们的客户创造价值, 带来 提高我们工作流程的效率，以及 贡献 为服务不足的社区带来创新、增长和成果。. 

PCV工作人员在制定这项政策时参考了以下框架、文章和专家意见： 

• “人工智能与公民权利从根本上来说是不相容的”，薇薇安·明博士，城市研究所Socos Labs，2017年, https://www.youtube.com/watch?v=Cm7IJiokqz8
• “这不是工业革命”，薇薇安·明博士，Socos学院，2018年, https://academy.socos.org/not-the-ir/
• “我们不需要人工智能宣言——我们需要一部宪法”，薇薇安·明博士，《金融时报》, https://www.ft.com/content/b16fab3e-7f19-49ab-9bbb-9bfeccbaf063
• “技术专家薇薇安·明：人工智能是一项人权”，薇薇安·明博士，《卫报》，2018年, https://www.theguardian.com/technology/2018/dec/07/technologist-vivienne-ming-ai-inequality-silicon-valley
• “以人为本：用人性化的方式建立对人工智能的信任”，Salesforce 道德与人道使用办公室，2024 年, https://humanatthehelm.splashthat.com/
• “《数据公平框架》，We All Count，2022 年, https://weallcount.com/the-data-process/
• “负责任地使用技术”，世界经济论坛，2019年, https://www3.weforum.org/docs/WEF_Responsible_Use_of_Technology.pdf
• “第四次工业革命：它的意义何在，如何应对”，克劳斯·施瓦布，世界经济论坛, https://www.weforum.org/stories/2016/01/the-fourth-industrial-revolution-what-it-means-and-how-to-respond/
• “《人工智能权利法案蓝图》，白宫，2023年, https://www.whitehouse.gov/ostp/ai-bill-of-rights/
• “人工智能风险管理框架”，美国国家标准与技术研究院，2023年, https://www.nist.gov/itl/ai-risk-management-framework
• “微软推进负责任的人工智能创新的自愿承诺”，微软，2023 年, https://blogs.microsoft.com/on-the-issues/2023/07/21/commitment-safe-secure-ai/
• https://www.ie.edu/insights/articles/from-cloud-to-cup-how-much-water-does-your-chatgpt-drink/