Política de IA

Clientes, consumidores, colegas, socios de la industria y simpatizantes de PCV, 

La civilización humana ha entrado en una nueva era, la 4elLa revolución industrial, gracias a la innovación tecnológica, como la inteligencia artificial (IA) y el aprendizaje automático (ML), aporta el poder y el potencial para optimizar nuestras operaciones comerciales, generar ideas y contenido, y procesar grandes cantidades de información a velocidades que superan la capacidad humana. 

PCV ha sido durante mucho tiempo una organización impulsada por datos, con un enfoque tecnológico y una atención personalizada, fundada como una de las primeras organizaciones de inversión de impacto del país. PCV se dedica a invertir en la pasión y la resiliencia de los emprendedores de pequeñas empresas, ayudándoles a crear empleos de calidad y a promover la movilidad económica, la resiliencia climática y el bienestar financiero, al tiempo que impulsa a las comunidades históricamente marginadas. PCV también es una institución financiera de desarrollo comunitario (CDFI) certificada a nivel federal y estatal, que representa un campo surgido del movimiento por los derechos civiles como su pilar de justicia económica, hace más de 30 años tras el reconocimiento federal de la discriminación histórica en el sector financiero formal. 

Reconocemos los posibles problemas éticos que plantea la IA y el impacto, tanto positivo como negativo, que puede tener en nuestros empleados, clientes y comunidades. Nos comprometemos a investigar y comprender continuamente el sesgo algorítmico que perpetúa la IA a medida que sus capacidades avanzan, especialmente en sectores sensibles relacionados con el nuestro, como las decisiones financieras, la contratación y la justicia penal. 

Por lo tanto, estamos desarrollando, implementando y actualizando periódicamente una política integral sobre el uso ético de la IA y el aprendizaje automático que se alinea con los valores, la misión y los objetivos de nuestra empresa.Creemos que las decisiones de aprovechar cualquier aplicación, herramienta, metodología o sistema de IA o aprendizaje automático deben respetar el consentimiento individual y comunitario, la autonomía y la privacidad de los datos, así como el respeto a la capacidad de decisión y la dignidad humanas, al tiempo que se minimizan los impactos climáticos adversos. 

Por lo tanto, en el uso de tecnologías de IA y ML,PCV se adhiere estrictamentea los siguientes seis principios fundamentales: 

1. PCV debe garantizar que los beneficios de la IA utilizada minimicen el daño creado, y no debe dañar a nadie. grupo particular o individuos de manera desproporcionada.
2. ordenador personalV debe seleccionar o desarrollar IA que haya sido entrenada con datos demográficamente desagregados para prevenir la discriminación o el daño desproporcionado a cualquier persona o grupo de personas. mediante el uso de ese sistema de IA. Reconocemos que los algoritmos entrenados sin proporcionalmente equilibrado demografía casi siempre peores resultados para los bajos ingresos, bajorepresentado, o grupos desfavorecidos.
3. TEl sistema de IA nunca debe utilizarse para discriminar o excluir a personas. clientela, clientes, o grupos de personas en el transcurso de los negocios. Los sistemas de IA incluyen, entre otros, modelos predictivos, algoritmos de coincidencia y chat de soporte. bots, motores de recomendación, contenido generado automáticamente para marketing y comunicaciones, herramientas y scripts para automatizar tareas administrativas (por ejemplo, finanzas, procesamiento de préstamos e informes) y otros.
4. AI Los sistemas utilizados en PCV deben en todo momento priorizar y salvaguardar la privacidad y los derechos de datos de los clientes, tanto para proteger los datos del abuso como de la monopolización.ypara asegurarnos de que cumplimos con la legislación de privacidad a nivel de préstamo, ya que estamos obligado como un CDFI. Entre los clientes se incluyen: pequeño empresarios de negocios y sus trabajadores. Entre los clientes se incluyen otras CDFI u organizaciones impulsadas por la misión a las que PCV apoya en su función de desarrollador de capacidades en datos, análisis, ML e IA. PCV se compromete a la estricta protección de los datos de los clientes y usuarios, en todo momento, mantener Estos datos se encuentran dentro de un entorno protegido por un cortafuegos, separado de los datos de otros programas. Clientes y consumidores deber mantener el derecho a solicitar acceso a sus datos y a eliminarlos de los sistemas de PCV. PCV se encargará de el mejor esfuerzos para cumplir con dicha solicitud. 
5. El sistema de IA debe utilizarse parainformar y apoyoEl análisis crítico y la toma de decisiones humanas nunca deben reemplazar la toma de decisiones humana, ni funcionar sin supervisión en ningún caso, ni actuar como un sistema totalmente autónomo. Un sistema de IA siempre debe diseñarse para mantener a un ser humano involucrado en el proceso de toma de decisiones.  Los sistemas de IA y ML de las TA se vuelven cada vez más autónomos y con capacidad de agencia; los siguientes ejemplos no son exhaustivos, pero pretenden orientar al personal de los PCV: 
   • Agentes de codificación (Claude Code, Copilot, Antigravedad, Jules, etc.): hpesado y sin supervisión En PCV está prohibido el uso de agentes de codificación.. Los agentes de codificación pueden ser apalancado durante algoritmo-edificio, ensamblar flujos de trabajo de ingeniería de datos, desarrollo, pruebas e implementación de software, solo como comprobacións sobre humanos-código de autor, como herramientas para asistir solución de problemas, como herramientas para generar scripts de prueba y como guías para asesorar sobre una implementación eficiente. Codificación agentes nunca debe ser Se activa en tareas que generan código nuevo y no supervisado., datos de acceso,  carpetas, bases de datos, u otros repositorios sin autorización explícita humano permison, raspar cualquier contenido preexistente sin permiso explícito de una persona, o ser permitido scripts de ejecución autónoma o acciones de cualquier tipo sin una revisión, prueba y evaluación por parte de dos personas. movimiento formal del código base en producción. En cualquier momento de un ciclo de vida de proyecto técnico, un desarrollador debe poder explicar una o más líneas de código cuando cuestionado. Incapacidad para proporcionar una justificación o niveles apropiados de transparencia por un recurso humano técnico se asumirá como una indicación de uso no autorizado de IA.   
   • Escritura asistida por LLM: fescritura totalmente autónoma (por ejemplo, aprovechamiento los resultados de OpenAI, Claude y otrossu Másteres en Derecho (LLM), y representando ellos como si fueran su propia escritura) es Estrictamente prohibido en PCV. El personal puede utilizar dichas herramientas. para cenarllevar el proceso de escritura, como por ejemplo hacer una lluvia de ideas. nuevas ideas para programas, realizar investigaciones en fuentes primarias, ayudar con la elaboración de un esquema para una propuesta bien estructurada., Realizar correcciones gramaticales y ortográficas en el contenido final., y similares funciones de edición ligera, pero el contenido escrito real debe ser escribir uno mismo y representar el pensamiento original del autor. Al presentar un entregable final a su gerente u otra parte interesada, El personal de PCV debe revelar herramienta de IA usar ya sea verbalmente, por correo electrónico o como una nota al pie de página en el informe. La divulgación debe incluir la herramienta de IA utilizada, la aproximacióncomió dátiles y actividades para las cuales se utilizó. 
   • generado por IA colateral: fcreación de contenido totalmente autónoma (por ejemplo, sitios web, diapositivas, logotipos, gráficos, publicaciones en redes sociales, fotos, videos, páginas de destino, guías de estilo, interfaces de usuario, flujos de trabajo de experiencia de usuario, y herrada garantías, por mencionar algunos ejemplos) sin una revisión humana exhaustiva y sin la debida atribución, Está estrictamente prohibido en PCV. El personal puede utilizar herramientas como Base44, Miro, Figma, Canva, Framer, Tailwind – y otros – para generar prototipos cuyo propósito es comunicar sus ideas y visión, asistir ellos y sus colegas con lluvia de ideas y comunicación final presupuesto. Sin embargo, dicha garantía generada por IA debería nunca ser considerado entregables finales, ni ser empujados a producción, sin una revisión exhaustiva del código (para ejemplo, nuevo páginas de aterrizaje, web-baherramientas de sed), y aprobación de la gerencia para garantizar la coherencia de la marca.tenencia, seguridad, y consideraciones sobre propiedad intelectual.  
6. PCV será no usar Inteligencia artificial autónoma para tomar decisiones de crédito o cualquier otra decisión de importancia sin que ello implique un cambio en esta política. y la aprobación del director ejecutivo. Las decisiones que conllevan incluyen, entre otras, las siguientes: 
   • Ddeterminando quién recibirá y quién no recibirá un préstamo. 
   • Ddeterminando quiénes recibirán y quiénes no recibirán asesoramiento empresarial.
   • Ddeterminando a quienes informaremos sobre nuestros productos, servicios y nuevas oportunidades, tales como: participativo en un estudio, un nuevo programa piloto o incentivos de cualquier tipo. 
   • ISi alguna decisión particular respaldada por IA plantea alguna duda, El PCV garantizará que ningún grupo está excluido de un producto o servicio de PCV sin citando específicos programático o criterios de elegibilidad para el préstamo o fundamento legal. Asegúrese siempre de que no se oculte información a un grupo o grupos en particular, nuevamente, sin a previamente criterios de elegibilidad programáticos o de préstamos comunicados o fundamentos legales. 

Dado que los algoritmos se entrenan con grandes conjuntos de datos sobre préstamos, contrataciones y decisiones de justicia penal que a menudo emplean una definición de "riesgo" que históricamente ha excluido a las comunidades de bajos ingresos y marginadas, PCV debe ser particularmente cuidadosa con los casos de uso y las salvaguardias que implementa para probarlos dentro de PCV y nuestro sector de finanzas comunitarias. Reconocemos que estas nuevas tecnologías pueden fácilmente revertir los avances logrados hasta la fecha con el enfoque de alta tecnología y atención personalizada de PCV, y corren el riesgo de acelerar los sesgos en el campo de las finanzas comunitarias a una escala y velocidad que tal vez nunca podamos abordar antes de que los impactos adversos se consoliden profundamente. 

PCV reconoce que lo que hacemos como CDFI, inversor de impacto, organización de desarrollo comunitario, en términos decómoImplementamos IA ahora, lo que podría sentar un precedente para el sector en los próximos años. A medida que ampliamos nuestras capacidades tecnológicas y de IA en PCV, nos comprometemos a compartir nuestros aprendizajes con el ecosistema de CDFI y el ecosistema de impacto, a promover prácticas basadas en evidencia que prioricen a los clientes y las voces de la comunidad, a protegernos contra los sesgos, a frenar la deriva del mercado, a prevenir la exclusión y a garantizar que obtengamos el consentimiento explícito de aquellos a quienes servimos, tanto nosotros como nuestros colegas. 

Al colaborar con otras instituciones financieras comunitarias de desarrollo comunitario (CDFI) y organizaciones con una misión social, debemos compartir nuestros valores y los parámetros que consideramos aceptables para el uso de la IA (que se detallan a continuación). Si durante la colaboración observamos divergencias en estos valores y parámetros, nos reservamos el derecho de disolverla. Con aquellas organizaciones con las que logremos una alineación, trabajaremos para crear una comunidad de práctica que contribuya a difundir estándares de IA que promuevan la dignidad humana para todos, especialmente para las poblaciones más vulnerables. 

A continuación se presentan pautas más específicas:

1. Siempre reconozca el uso de IA: Siempre que la IA ayude en la creación de contenido para co-escribir un texto o para crear completamente En cuanto al contenido, el empleado debe asegurarse de que se dé el crédito correspondiente al sistema o herramienta de IA utilizada. Esto debe hacerse añadiendo una nota al pie u otras indicaciones. en el documento o publicación.
2. Garantizar la privacidad de los datos: PCV reconoce la importancia de proteger los datos confidenciales de los clientes y la información confidencial de la empresa al introducir material en las aplicaciones de IA. Antes de utilizar cualquier herramienta de IA, el empleado debe revisar el texto adjunto sobre seguridad de datos y obtener la aprobación del Director de Datos y del Director Ejecutivo antes de iniciando uso (ver abajo). PCV se asegurará de que seguridad adecuada Se han implementado medidas, como la anonimización de datos, el cifrado, las herramientas complementarias y los controles de acceso (para mitigar las herramientas de terceros), para impedir el acceso o uso no autorizado de dicha información.
3. Tenga cuidado al tomar decisiones: PCV reconoce que la IA puede automatizar procesos estándar que conducen a la toma de decisiones. Sin embargo, debemos actuar con cautela y asegurar que la supervisión humana sea una parte intencional del proceso para evitar decisiones sesgadas o discriminatorias. PCV y sus empleados se comprometen a revisar periódicamente los sistemas y herramientas de IA utilizados para garantizar su precisión, equidad y transparencia. PCV proporcionará capacitación a los empleados sobre el uso ético de la IA para garantizar que sea apalancado para informar y apoyar la toma de decisiones humanas, no desplazándolo.
4. Asociarse con instituciones confiables: La alta dirección de PCV está trabajando para establecer asociaciones con instituciones de confianza, como organizaciones sin fines de lucro, asociaciones industriales e instituciones de investigación, que tienen pericia en el uso adecuado y ético de la IA. Buscaremos regularmente su orientación sobre prácticas éticas de IA e incorporar sus recomendaciones en nuestras políticas y procedimientos.(Por ejemplo, Code for America, Black Wealth Data Center, Data Equity, etc.)
5. Defender la transparencia: PCV y sus empleados deben garantizar que el uso de la IA sea transparente para nuestros grupos de interés, clientela, clientes y comunidades. Comunicaremos claramente el uso previsto de los sistemas y herramientas de IA, sus limitaciones y cualquier posible riesgos para partes interesadas. También ofreceremos un canal para recibir comentarios e inquietudes relacionadas con el uso de la IA.
6. Comprometerse con la mejora continua: PCV revisará y actualizará periódicamente nuestra política sobre el uso ético de la IA para reflejar las tendencias cambiantes, las mejores prácticas y los riesgos emergentes. Nos aseguraremos de que nuestra política se ajuste a los estándares de la industria, los requisitos regulatorios y los valores y la misión de nuestra empresa. 
7. Medición del sesgo: PCV utilizará ingresos del hogar, designaciones de códigos postales y datos demográficos medir y mitigar posible sesgo. 
8. Grupo de trabajo de modernización de datos:  PCV aplicará las mismas prácticas de gobernanza de datos a metodologías de aprendizaje automático y herramientas de IA generativa que hace con proveedor plataformas como Lenderfit, Agrario y/o Qooper. ¿Alguna inquietud? acerca de sesgo, seguridad, privacidad o errorderiva iónica saldrá a la superficie en programado regularmente interno Gobernanza de datos Grupo de trabajo reuniones para discutir y decidir con interno partes interesadas. Cualquier miembro del personal de PCV también puede plantear sus inquietudes directamente al Director de Datos y/o al Director Ejecutivo de PCV en cualquier momento.
9. Aprobaciones para nuevas herramientas: Personal campo-Quienes deseen probar nuevas herramientas de IA y aprendizaje automático deben solicitar autorización al Director de Datos y al Director Ejecutivo, especificar el caso de uso que desean probar, el resultado o valor añadido que aportarán a PCV y cómo cumplen con las directrices mencionadas. Asimismo, deben aclarar esta política con cualquier consultor externo, incorporarla en los acuerdos de colaboración externos y obtener una firma de confirmación. Si las nuevas herramientas llevan adicional costo, El personal debe investigar untodas las implicaciones de costos, identificar el nivel o paquete que sea más apropiado para uso de herramientas, y obtener permiso explícito del CFO, CDO y/o CEO antes iniciando usar. Cada adicional El usuario o la licencia que se solicita requiere aprobación a través de los mismos canales. El personal que propone La nueva herramienta también es responsable de identificar cualquier cambio que pueda surgir en esta Política de IA como resultado de utilizando la herramienta. La nueva guía de políticasLas líneas deben ser discutido Preferiblemente en el foro del Grupo de Trabajo sobre Gobernanza de Datos, o al menos con el Director de Datos para su aprobación e inclusión en la política. 
10. Herramientas de IA para la transcripción de reuniones y la grabación de videoconferencias:PCV permisos su personal para utilizar una llamada virtual aprobada por la empresa transcriptor/grabadora solo bajo la siguiente condiciones:
    • El personal solo debe utilizar aplicaciones aprobadas por el PCV (por ejemplo: Fathom, a partir de enero de 2026). Braza, en el tiempo de escribiendo, es el uno Servicio que destaca por sus funciones de privacidad y seguridad. Cumple con las normativas Soc 2 Tipo II, HIPAA, CDPR y CCPA. Además, cuenta con una función que solicita el consentimiento electrónico de los asistentes a la reunión antes de autorizar la grabación. Si el personal desea proponer una alternar solución, debe cumplir con estos estándares como mínimo. La solución también debe ser compatible con un Microsoft medio ambiente y Debe recibir la aprobación explícita del Director de Datos y del Director Ejecutivo. 
    • El personal debe obtener el consentimiento explícito de cada participante en la llamada virtual, incluyendo a todas las partes interesadas internas o externas antes de el inicio de la grabación y/o transcribir. Si alguien se opone, personal apagarán la grabadora y discutirán otros medios para recopilar la información. necesario. 
    • El personal debe desactivar todas las funciones automatizadas en la aplicación de grabación que a) implicar que un grabador entre en una reunión sin explicación explícita permiso otorgado por un humano en su inicio, y /o b) Envío automático de la grabación y las transcripciones a todos los participantes de la reunión. al finalizar la reunión. La grabación debe enviarse manualmente a los participantes que la soliciten, y solo aquellos que asistieron a la reunión original podrán hacerlo. recibir acceso a la grabación por PCV personal.  
    • El personal debe mantener el nivel más alto de seguridad de cada grabación salida y tratar cada grabación como un artefacto de datos PII. Esto significa que el miembro del personalLa persona que inició la grabación es, por defecto, la única que tiene acceso a ella, y concede acceso a otros basándose en el principio del mínimo privilegio., determinado en primer lugar por el personal interno que estuvo presente en la reunión en el momento de la grabación, y en segundo lugar por las partes interesadas externas.ancianos que estuvieron presentes en la reunión. Si alguna otra persona solicita acceso a la grabación de la reunión, el personal de PCV debe obtener permiso de su gerente y/o del Director de Protección de Datos. antes de compartir. 
    • Por defecto, no habrá grabadoras ni transcriptoras. permitido en llamadas internas de PCV a menos que se determine con anticipación tiempo y agriculturaleído por todos los participantes. 
    • El personal de PCV debe tener precaución y vigilancia en las llamadas con todas las partes externas. Si hay Existe la posibilidad, por pequeña que sea, de que se comparta información confidencial durante la llamada, por lo que el personal de PCV debe pedido que la contraparte desactive sus grabadoras y toma de notas.rs si existe un acuerdo de confidencialidad mutuo (MNDA) no está ya en su lugar. Si Si existe un MNDA, la contraparte puede proceder con la grabación, siempre que el equipo de PCV aclare que la grabación solo será accesible para participantes en la llamada. Si un MNDA es no está en su lugar y isi la contraparte insiste en la grabación, la reunión puede proceder solo con el advertencia proporcionado por el personal de PCV que no se compartirá información confidencial y La discusión se limitará a generalidades. La información confidencial incluye cualquier información personal identificable (PII) del cliente, detalles sobre los programas de PCV que no están disponibles públicamente y cualquier información de propiedad exclusiva. metodología, herramienta, aplicación, tecnologíaogy, y/o proceso Desarrollado por PCV. 
11. Uso de herramientas de IA para Autocompletar: Las herramientas de IA se están integrando cada vez más en aplicaciones y software cotidianos como el correo electrónico, las aplicaciones de Microsoft Office y las plataformas de codificación. Las funciones de autocompletado, o "recomendaciones inteligentes", ahora acompañar La mayoría de las aplicaciones y están destinadas a crear eficiencia. Los empleados de PCV son permitido a utilizar Funcionalidad de autocompletar en Word, Excel, PowerPoint, correo electrónico y otros. frecuentemente aplicaciones usadas pero debe revisar el contenido autocompletado para verificar su precisión. Se desaconseja el código autocompletado (por ejemplo: al escribir Python o R al realizar análisis de datos o crear algoritmos), ya que el código autogenerado a menudo sugiere atajos, no comprende completamente los casos de uso basados en la misión y crea una serie de pasos cuya lógica puede ser difícil de interpretar durante las revisiones de código. Si el código recomendación Cuando se utilizan herramientas, el desarrollador debe verificar la precisión de toda la lógica, la sintaxis y las salidas, Y proporcionar comentarios en el código donde se utilizó el autocompletado. En los casos en que se entrega contenido inexacto, engañoso o "alucinado", ya sea a partes interesadas internas o externas, culpar a las herramientas de autocompletado o IA recomendaciones No se tolerará. Todos los empleados de PCV asumen la responsabilidad personal del contenido que publican como individuos, con o sin autocompletado, producir. 
12. Equilibrando la IA utilización con Impactos climáticos: El personal del PCV debe usar la IA con criterio, siempre teniendo en cuenta su impacto climático. Una buena regla general es asumira mí eso un típico sesión de trabajo con ChatGPT (que incluye entre 20 y 50 preguntas) usos 16 onzas de agua, o la cantidad en una botella de agua estándar uno comprars desde una comodidad almacenar. Antes una herramienta como ChatGPT, Claude u otra, es usado, El personal debe siempre considerar si vale la pena esencialmente vertiendo una botella de agua por el desagüe. Otras consideraciones: 
    • Cuando empleados del Cuerpo de Paz desplegar suHerramientas con soporte de IA (p.ej, AIKKA) y construir algoritmos de aprendizaje automático, deben analizar las ventajas y desventajas de realizar múltiples ejecuciones frente a optimizar la precisión. ejemplo, si múltiple adicional carreras (por ejemplo, para el ajuste de hiperparámetros) Se necesitan para aumentar la precisión predictiva en 3%, de 92% a 95%. para un algoritmo de aprendizaje automático, empleados debería no emprender el adicional procesamiento para la energía que sería gastar para beneficio limitado. 
    • Cuando PCV seleccionars proveedores de sistemas y tecnología, va a elige a aquellos que tienen demostrado un compromiso con la sostenibilidad en la infraestructura de sus centros de datos. 

Al adoptar esta política, PCV y sus empleados buscan promover el uso ético de la IA y generar confianza entre todos nuestros grupos de interés. Creemos que el uso responsable y ético de la IA generar valor para nuestros clientes, traer eficiencias en nuestros flujos de trabajo y contribuir para la innovación, el crecimiento y los resultados para las comunidades desfavorecidas. 

El personal de PCV hizo referencia a estos marcos, artículos y expertos en la creación de esta política: 

• “La IA es fundamentalmente incompatible con los derechos civiles”, Dra. Vivienne Ming, Socos Labs del Urban Institute, 2017., https://www.youtube.com/watch?v=Cm7IJiokqz8
• “Esta no es la Revolución Industrial”, Dra. Vivienne Ming, Socos Academy, 2018, https://academy.socos.org/not-the-ir/
• “No necesitamos un manifiesto de IA, necesitamos una constitución”, Dra. Vivienne Ming, Financial Times, https://www.ft.com/content/b16fab3e-7f19-49ab-9bbb-9bfeccbaf063
• “Tecnóloga Vivienne Ming: La IA es un derecho humano”, Dra. Vivienne Ming, The Guardian, 2018, https://www.theguardian.com/technology/2018/dec/07/technologist-vivienne-ming-ai-inequality-silicon-valley
• “Human at the Helm: Genere confianza en la IA con un toque humano”, Oficina de Uso Ético y Humano de Salesforce, 2024, https://humanatthehelm.splashthat.com/
• “El marco de equidad de datos”, We All Count, 2022, https://weallcount.com/the-data-process/
• “Uso responsable de la tecnología”, Foro Económico Mundial, 2019, https://www3.weforum.org/docs/WEF_Responsible_Use_of_Technology.pdf
• “La Cuarta Revolución Industrial: qué significa, cómo responder”, Klaus Schwab, Foro Económico Mundial, https://www.weforum.org/stories/2016/01/the-fourth-industrial-revolution-what-it-means-and-how-to-respond/
• “Plan para una Carta de Derechos de la IA”, La Casa Blanca, 2023, https://www.whitehouse.gov/ostp/ai-bill-of-rights/
• “Marco de gestión de riesgos de IA”, Instituto Nacional de Estándares y Tecnología, 2023, https://www.nist.gov/itl/ai-risk-management-framework
• “Compromisos voluntarios de Microsoft para impulsar la innovación responsable en IA”, Microsoft, 2023, https://blogs.microsoft.com/on-the-issues/2023/07/21/commitment-safe-secure-ai/
• https://www.ie.edu/insights/articles/from-cloud-to-cup-how-much-water-does-your-chatgpt-drink/