Patakaran sa AI

Mga Kasamahan sa PCV, Mga Kasosyo sa Industriya, at Mga Tagasuporta,

Ang kabihasnang pantao ay pumasok sa isang bagong panahon, ang 4^ika rebolusyong industriyal, ng inobasyon sa teknolohiya tulad ng artificial intelligence (AI) at machine learning (ML), na nagdadala ng kapangyarihan at potensyal upang gawing mas maayos ang mga operasyon ng ating negosyo, makabuo ng mga ideya at nilalaman, at magproseso ng malawak na impormasyon sa bilis na lampas sa kakayahan ng tao.

Matagal nang isang organisasyong "high-tech at high-touch" na nakabase sa datos ang PCV, na itinatag bilang isa sa mga unang organisasyon ng impact investing sa bansa. Nakatuon ang PCV sa pamumuhunan sa hilig at katatagan ng maliliit na negosyante, na tumutulong sa kanila na lumikha ng mga de-kalidad na trabaho at isulong ang mobilidad ng ekonomiya at mga resulta ng kagalingang pinansyal, habang itinataguyod ang mga komunidad na dating hindi gaanong napaglilingkuran. Ang PCV ay isa ring institusyong pinansyal para sa pagpapaunlad ng komunidad (CDFI) na sertipikado ng pederal at estado, isang larangang isinilang mula sa kilusan para sa mga Karapatang Sibil bilang haligi ng katarungang pang-ekonomiya, mahigit 30 taon na ang nakalilipas kasunod ng pagkilala ng pederal na pamahalaan sa diskriminasyon at pagbabawas ng mga karapatan sa pormal na industriya ng pananalapi.

Kinikilala namin ang mga potensyal na isyung etikal na dulot ng AI, at ang epekto, kapwa positibo at negatibo, na maaari nitong idulot sa aming mga empleyado, customer, at komunidad. Patuloy naming sinasaliksik at iniintindi ang algorithmic bias na pinalaganap ng AI sa mga nakaraang taon, lalo na sa mga sensitibong industriya na may kaugnayan sa amin – tulad ng mga desisyon sa pananalapi, pagkuha ng mga empleyado, at hustisyang kriminal.

Samakatuwid, nakatuon kami sa pagbuo at pagpapatupad ng isang komprehensibong patakaran tungkol sa etikal na paggamit ng AI at ML na naaayon sa mga pinahahalagahan, misyon, at layunin ng aming kumpanya. Naniniwala kami na ang mga desisyon na gamitin ang anumang aplikasyon, kasangkapan, metodolohiya, o sistema ng AI ay dapat magtaguyod ng pahintulot ng indibidwal at komunidad, awtonomiya at privacy ng datos, at paggalang sa kalayaan at dignidad ng tao.

Samakatuwid, sa paggamit ng mga teknolohiyang AI at ML, Mahigpit na sinusunod ng PCV sa mga sumusunod anim na pangunahing prinsipyo:

1. Dapat nating tiyakin na ang mga benepisyong dulot ng paggamit ng AI ay makakabawas sa pinsalang dulot nito, at hindi ito dapat makapinsala nang hindi proporsyonal sa sinumang partikular na grupo o indibidwal.
2. Dapat tayong pumili o bumuo ng AI na sinanay batay sa datos na pinaghiwa-hiwalay ayon sa demograpiko upang maiwasan ang diskriminasyon o di-proporsyonal na pinsala sa sinumang tao o grupo ng mga tao sa pamamagitan ng paggamit ng sistemang AI na iyon. Kinikilala namin na ang mga algorithm na sinanay nang walang proporsyonal na balanseng demograpiko ay halos palaging mas mababa ang performance para sa mga kliyenteng may mababang kita o may kulay, pati na rin sa mga imigrante at iba pang mga grupong kulang sa serbisyo.
3. Ang sistemang AI ay hindi dapat gamitin kailanman upang magdiskrimina o magbukod ng mga indibidwal na customer o grupo ng mga tao sa panahon ng negosyo. Kabilang sa mga sistemang AI, ngunit hindi limitado sa, mga predictive model, matching algorithm, support desk chat bot, mga recommendation engine, awtomatikong nabuong nilalaman para sa marketing at komunikasyon, mga tool, at mga script upang i-automate ang mga gawaing administratibo (hal., tulad ng pananalapi, pagproseso ng pautang, at pag-uulat) at iba pa.
4. Ang mga AI system na ginagamit sa PCV ay dapat palaging unahin at pangalagaan ang privacy at mga karapatan sa data ng mga kliyente at customer, upang maprotektahan ang data mula sa pang-aabuso o monopolyo. at upang matiyak na sumusunod kami sa batas sa privacy sa antas ng pautang dahil obligasyon namin bilang isang CDFI. Kabilang sa mga kliyente ang mga negosyanteng maliliit na negosyo na aming pinaglalaanan ng puhunan bilang mga CDFI at ang kanilang mga manggagawa. Kabilang sa mga customer ang iba pang mga CDFI o mga organisasyong hinimok ng misyon na sinusuportahan ng PCV sa tungkulin nito bilang tagapagtaguyod ng kapasidad sa data, analytics, ML, at AI. Nangangako ang PCV sa mahigpit na proteksyon ng data ng customer at kliyente, sa lahat ng oras, pinapanatili ang data na ito sa loob ng isang firewalled na kapaligiran na nakahiwalay sa iba pang data ng programa.
5. Dapat gamitin ang sistemang AI upang ipaalam at suporta kritikal na pagsusuri at paggawa ng desisyon ng tao at hindi dapat kailanman maging walang pangangasiwa o kumilos bilang isang nagsasariling sistema (ibig sabihin, huwag alisin ang mga tao sa proseso o loop ng paggawa ng desisyon).
6. Hindi kami gagamit ng autonomous AI upang gumawa ng mga desisyon sa pagpapautang, o iba pang mahahalagang desisyon nang walang pagbabago sa patakarang ito, at pag-apruba ng CEO. Kasama sa mga mahahalagang desisyon ngunit hindi limitado sa mga sumusunod:
   • Pagtukoy kung sino ang makakatanggap at hindi makakatanggap ng pautang.
   • Pagtukoy kung sino ang makakatanggap at hindi makakatanggap ng suporta sa pagpapayo sa negosyo.
   • Pagtukoy kung sino ang aming ipapaalam tungkol sa aming mga produkto, serbisyo, at mga bagong oportunidad, tulad ng pakikilahok sa isang pag-aaral, isang bagong pilot program, o anumang uri ng mga insentibo.
   • Kung ang isang partikular na desisyon na sinusuportahan ng AI ay nagdudulot ng anumang pagdududa, palaging tiyakin na walang grupo ang pinagbabawalan sa isang produkto o serbisyo ng PCV nang walang dahilan o walang obhetibong katwiran. Laging tiyakin na walang impormasyong ipagkakait sa isang partikular na grupo o mga grupo, muli, nang walang obhetibong katwiran.

Dahil ang mga algorithm ay sinanay sa malalaking set ng datos ng pagpapautang, pagkuha ng empleyado, at mga desisyon sa hustisyang kriminal na gumagamit ng kahulugan ng "panganib" na dating hindi kasama ang mga taong may mababang kita at mga taong may kulay, sa palagay namin ay kailangan naming maging partikular na sinadya tungkol sa mga kaso ng paggamit at mga bantay na inilalagay namin upang subukan ang mga ito sa loob ng PCV at sa aming industriya. Kinikilala namin na ang mga bagong teknolohiyang ito ay madaling makakabura sa mga natamo namin hanggang sa kasalukuyan gamit ang aming high-tech na high-touch na diskarte at mapabilis ang bias sa aming larangan sa isang saklaw at bilis na maaaring hindi namin matugunan bago pa man lumakas nang husto ang masamang epekto.

Kinikilala namin na ang aming ginagawa bilang isang CDFI, isang impact investor, isang organisasyon sa pagpapaunlad ng komunidad – sa mga tuntunin ng paano Inilalagay namin ang AI ngayon – ay magtatakda ng isang huwaran para sa sektor sa mga darating na taon. Habang pinapataas namin ang aming teknolohiya at mga kapasidad ng AI sa loob ng PCV, nangangako kami na magbahagi ng mga natutunan sa CDFI at maimpluwensyahan ang ecosystem, itinataguyod ang mga kasanayang sinusuportahan ng ebidensya na nagsentro sa mga kliyente at tinig ng komunidad, pinoprotektahan laban sa bias, binabawasan ang pag-agos ng merkado, pinipigilan ang pagbubukod, at tinitiyak na hinihingi namin ang tahasang pahintulot ng mga pinaglilingkuran namin at ng aming mga kasamahan.

Kapag nakikipagtulungan sa mga kapantay na CDFI at iba pang mga organisasyong may misyon, dapat nating ibahagi ang ating mga pinahahalagahan at ang mga parametro na itinuturing nating katanggap-tanggap na paggamit ng AI (nakadetalye sa ibaba). Kung sa panahon ng kolaborasyon, mapapansin natin ang pagkakaiba sa mga pinahahalagahan at parametrong ito, gagamitin natin ang karapatang buwagin ang kolaborasyon. Para sa mga organisasyong nakakasundo natin, magsisikap tayong bumuo ng isang komunidad ng mga kasanayan na makakatulong sa pagpapalaganap ng mga pamantayan ng AI na nagsusulong ng dignidad ng tao para sa lahat, lalo na sa mga populasyon na kulang sa serbisyo.

Ang mas tiyak na mga alituntunin ay sumusunod:

1. Palaging bigyang-halaga ang paggamit ng AI: Sa tuwing tumutulong ang AI sa paglikha ng nilalaman upang maging co-author ng isang sulatin o upang ganap na malikha ang nilalaman, dapat tiyakin ng empleyado na ang wastong kredito ay ibinibigay sa sistema o kagamitang AI na ginamit. Dapat itong gawin sa pamamagitan ng pagdaragdag ng footnote o iba pang indikasyon sa dokumento o publikasyon.
2. Tiyakin ang privacy ng datos: Kinikilala ng PCV ang kahalagahan ng pagprotekta sa sensitibong datos ng customer at kumpidensyal na impormasyon ng kumpanya kapag nagpapapasok ng materyal sa mga aplikasyon ng AI. Bago gamitin ang anumang tool ng AI, dapat suriin ng empleyado ang kasamang wika tungkol sa seguridad ng datos at kumuha ng pag-apruba mula sa Chief Data Officer at CEO bago simulan ang paggamit (tingnan sa ibaba). Titiyakin ng PCV na may mga naaangkop na hakbang sa seguridad, tulad ng pag-anonymize ng datos, pag-encrypt, mga plug-in tool, at mga kontrol sa pag-access (upang mabawasan ang mga tool ng third-party), upang maiwasan ang hindi awtorisadong pag-access o paggamit ng naturang impormasyon.
3. Maging maingat sa paggawa ng desisyon: Kinikilala ng PCV na kayang i-automate ng AI ang mga karaniwang proseso na humahantong sa paggawa ng desisyon. Gayunpaman, dapat tayong mag-ingat at tiyakin na ang pangangasiwa ng tao ay isang sadyang bahagi ng proseso upang maiwasan ang mga desisyong may kinikilingan o diskriminasyon. Nangangako ang PCV at ang mga empleyado nito na regular na susuriin ang mga sistema at tool ng AI na ginagamit upang matiyak ang kanilang katumpakan, pagiging patas, at transparency. Magbibigay ang PCV ng pagsasanay sa mga empleyado sa etikal na paggamit ng AI – upang matiyak na magagamit ito upang magbigay ng impormasyon at suportahan ang paggawa ng desisyon ng tao, hindi upang palitan ito.
4. Makipagsosyo sa mga mapagkakatiwalaang institusyon: Ang matataas na pamunuan ng PCV ay nagsusumikap na magtatag ng mga pakikipagtulungan sa mga mapagkakatiwalaang institusyon, tulad ng mga non-profit na organisasyon, mga asosasyon ng industriya, at mga institusyong pananaliksik, na may kadalubhasaan sa wasto at etikal na paggamit ng AI. Regular naming hihingin ang kanilang gabay sa mga etikal na kasanayan sa AI at isasama ang kanilang mga rekomendasyon sa aming mga patakaran at pamamaraan. (Halimbawa, Code for America, Black Wealth Data Center, Data Equity, atbp.)
5. Panatilihin ang transparency: Dapat tiyakin ng PCV at ng mga empleyado nito na ang paggamit ng AI ay malinaw sa aming mga stakeholder, customer, at komunidad. Malinaw naming ipapaalam ang nilalayong paggamit ng mga sistema at tool ng AI, ang kanilang mga limitasyon, at anumang potensyal na epekto sa mga stakeholder. Magbibigay din kami ng daan para sa feedback at mga alalahanin na may kaugnayan sa paggamit ng AI.
6. Mangako sa patuloy na pagpapabuti: Regular na susuriin at ia-update ng PCV ang aming patakaran sa etikal na paggamit ng AI upang maipakita ang nagbabagong mga uso, pinakamahuhusay na kasanayan, at mga umuusbong na panganib. Titiyakin namin na ang aming patakaran ay naaayon sa mga pamantayan ng industriya, mga kinakailangan sa regulasyon, at mga pinahahalagahan at misyon ng aming kumpanya.
7. Pagsukat ng Bias: Gagamitin ng PCV ang mga KPI tulad ng Woman-identifying, BIPOC, at porsyento ng LMI upang sukatin at subaybayan ang mga potensyal na bias.
8. Grupong Nagtatrabaho para sa Pagbabago ng Datos: Ilalapat ng PCV ang parehong mga kasanayan sa pamamahala ng datos sa mga generative AI tool tulad ng ginagawa nito sa mga platform tulad ng Downhome o Qooper. Anumang mga alalahanin ay ilalabas sa internal Working Group upang talakayin sa mga stakeholder.
9. Mga Pag-apruba para sa Pagsubok: Ang mga kawaning sumusubok ng mga bagong AI at ML tool ay kailangang magsumite ng kahilingan para sa pahintulot sa Chief Data Officer at CEO, linawin ang use case na gusto nilang subukan, ano ang nilalayong resulta o value-add sa PCV, at kung paano nila sinusunod ang mga alituntunin sa itaas. Kailangan din nilang linawin ang patakarang ito sa sinumang panlabas na consultant, isama sa mga panlabas na MOU, at makatanggap ng lagda ng kumpirmasyon. Dapat silang magkaroon ng tahasang nakasulat na pag-apruba mula sa CEO at CDO bago magsagawa ng anumang aksyon.
10. Paggamit ng mga tool ng AI para sa Awtomatikong Pagkumpleto: Ang mga AI tool ay lalong isinasama sa mga pang-araw-araw na aplikasyon at software tulad ng email, mga aplikasyon ng Microsoft Office, at mga platform ng coding. Ang mga feature na auto-completion, o "mga matalinong rekomendasyon," ay kasama na ngayon sa karamihan ng mga aplikasyon at nilayon upang lumikha ng kahusayan. Ang mga empleyado ng PCV ay pinahihintulutang gamitin ang functionality na auto-complete sa Word, Excel, PowerPoint, email, at iba pang madalas gamiting mga application ngunit dapat nilang suriin ang awtomatikong natapos na nilalaman para sa katumpakan. Ang awtomatikong natapos na code (halimbawa: habang nagsusulat ng Python o R habang nagsasagawa ng pagsusuri ng datos o pagbuo ng mga algorithm) ay hindi hinihikayat, dahil ang awtomatikong nabuo na code ay kadalasang nagmumungkahi ng mga shortcut, hindi lubos na nauunawaan ang mga kaso ng paggamit batay sa misyon, at lumilikha ng isang serye ng mga hakbang na ang lohika ay maaaring mahirap bigyang-kahulugan sa panahon ng mga pagsusuri ng code. Kung gagamitin ang mga tool sa pagkumpleto ng code, dapat suriin ng developer ang lahat ng lohika, syntax, at mga output para sa katumpakan, AT magbigay ng mga komento sa code kung saan ginamit ang auto-complete. Sa mga kaso kung saan ang hindi tumpak, nakaliligaw, o "hallucinated" na nilalaman ay inihahatid – maging sa mga internal o external na stakeholder – hindi kukunsintihin ang pagsisi sa mga tool sa awtomatikong natapos na. Ang lahat ng empleyado ng PCV ay may personal na responsibilidad para sa nilalamang ginagawa nila bilang mga indibidwal, mayroon man o walang awtomatikong pagkumpleto.

Sa pamamagitan ng pagpapatibay ng patakarang ito, nilalayon ng PCV at ng mga empleyado nito na itaguyod ang etikal na paggamit ng AI at bumuo ng tiwala sa lahat ng aming mga stakeholder. Naniniwala kami na ang responsable at etikal na paggamit ng AI ay nakakabuo ng halaga para sa aming mga customer, nagdudulot ng kahusayan sa aming mga daloy ng trabaho, at nakakatulong sa inobasyon, paglago, at mga resulta para sa mga komunidad na hindi nabibigyan ng sapat na serbisyo.

Tinukoy ng mga kawani ng PCV ang mga balangkas, artikulo, at ekspertong ito sa pagbuo ng patakarang ito:

• “Ang AI ay Saligang Hindi Tugma sa mga Karapatang Sibil”, Dr. Vivienne Ming, Socos Labs mula sa The Urban Institute, 2017, https://www.youtube.com/watch?v=Cm7IJiokqz8
• “Hindi Ito ang Rebolusyong Industriyal”, Dr. Vivienne Ming, Socos Academy, 2018, https://academy.socos.org/not-the-ir/
• “Hindi natin kailangan ng manifesto ng AI — kailangan natin ng konstitusyon”, Dr. Vivienne Ming, Financial Times, https://www.ft.com/content/b16fab3e-7f19-49ab-9bbb-9bfeccbaf063
• “Teknolohista na si Vivienne Ming: Ang AI ay isang karapatang pantao”, Dr. Vivienne Ming, The Guardian, 2018, https://www.theguardian.com/technology/2018/dec/07/technologist-vivienne-ming-ai-inequality-silicon-valley
• “Tao sa Timon: Bumuo ng Tiwala sa AI na may Human Touch”, Salesforce Office of Ethical and Humane Use, 2024, https://humanatthehelm.splashthat.com/
• “Ang Balangkas ng Pagkakapantay-pantay ng Datos”, Binibilang Natin Lahat, 2022, https://weallcount.com/the-data-process/
• “Responsableng Paggamit ng Teknolohiya”, World Economic Forum, 2019, https://www3.weforum.org/docs/WEF_Responsible_Use_of_Technology.pdf
• “Ang Ikaapat na Rebolusyong Industriyal: ang kahulugan nito, paano tumugon”, Klaus Schwab, World Economic Forum, https://www.weforum.org/stories/2016/01/the-fourth-industrial-revolution-what-it-means-and-how-to-respond/
• “Blueprint para sa isang AI Bill of Rights”, Ang White House, 2023, https://www.whitehouse.gov/ostp/ai-bill-of-rights/
• “Balangkas ng Pamamahala ng Panganib ng AI”, Pambansang Instituto ng mga Pamantayan at Teknolohiya, 2023, https://www.nist.gov/itl/ai-risk-management-framework
• “Mga Boluntaryong Pangako ng Microsoft upang Isulong ang Responsableng Inobasyon ng AI”, Microsoft, 2023, https://blogs.microsoft.com/on-the-issues/2023/07/21/commitment-safe-secure-ai/

Ang patakarang ito ay binuo bilang bahagi ng isang working group para sa pamamahala ng datos na binubuo ng iba't ibang kawani sa loob ng PCV sa nakalipas na dalawang taon, kasama ang suporta mula sa miyembro ng PCV Advisory Council na si Dr. Vivienne Ming – isang etikal na eksperto sa Artificial Intelligence na nakabase sa Socos Labs, Berkeley, CA.