Etika AI: Bagaimana pemasar harus merangkul inovasi secara bertanggung jawab

Kecerdasan buatan (AI) bukan hanya fenomena fiksi ilmiah yang berubah menjadi kenyataan—ini adalah andalan teknologi, yang dikembangkan selama beberapa dekade tepat di bawah hidung kita. AI telah mewujudkan mimpi peningkatan efisiensi, dengan banyak merek telah memanfaatkan pemasaran AI selama beberapa tahun terakhir.

Meski memicu kehebohan dan antusiasme, ada kekhawatiran seputar etika AI. Seperti banyak inovasi lainnya, visi industri teknologi untuk metaverse memiliki kemiripan yang menakutkan dengan media seperti Black Mirror dan Snow Crash . Dan dengan karya seperti Perumpamaan Penabur, Mesin dan Saya, Robot dalam zeitgeist budaya, dapat dimengerti mengapa penggemar sci-fi, peneliti, dan teknolog sama-sama memperingatkan bahaya mengabaikan etika AI.

Dalam artikel ini, kami akan menjelaskan apa itu etika AI, mengapa merek harus diperhatikan, dan masalah etika teratas yang dihadapi pemasar, termasuk keamanan pekerjaan, misinformasi, dan bias algoritmik. Kami juga akan membagikan lima langkah untuk membantu Anda mempertahankan praktik AI yang etis di dalam tim dan di seluruh organisasi.

Apa itu etika AI?

Etika AI adalah sistem prinsip moral dan praktik profesional yang digunakan untuk menginformasikan perkembangan dan hasil teknologi kecerdasan buatan secara bertanggung jawab. Ini juga mengacu pada studi tentang bagaimana mengoptimalkan dampak dan mengurangi risiko dan/atau konsekuensi AI.

Perusahaan teknologi terkemuka, entitas pemerintah seperti Perserikatan Bangsa-Bangsa, serta komunitas penelitian dan ilmu data telah bekerja untuk membentuk dan menerbitkan pedoman untuk mengatasi masalah etika. Misalnya, Organisasi Pendidikan, Ilmu Pengetahuan, dan Kebudayaan Perserikatan Bangsa-Bangsa (UNESCO) menerbitkan standar global pertama tentang etika AI pada November 2021: Rekomendasi tentang Etika Kecerdasan Buatan.

Ada beberapa peraturan AI yang berlaku di tingkat negara dan lokal, tetapi seiring dengan pertumbuhan AI dan teknologi baru lainnya, bisnis harus mengharapkan lebih banyak peraturan pemerintah. Saat AI semakin terintegrasi ke dalam kehidupan kita, etika AI menjadi bagian penting dari literasi digital.

Mengapa etika AI penting

Perusahaan sudah berinvestasi dalam AI, tetapi kesulitannya adalah memastikan penggunaan yang bertanggung jawab.

Menurut laporan The 2023 State of Social Media: AI and Data Take Center Stage, para pemimpin bisnis mengharapkan peningkatan investasi dalam AI selama beberapa tahun ke depan. Laporan kami juga menemukan 98% pemimpin bisnis setuju bahwa perusahaan perlu lebih memahami potensi teknologi AI dan pembelajaran mesin (ML) untuk kesuksesan jangka panjang.

Meskipun AI dapat meningkatkan kinerja, meningkatkan efisiensi, dan menghasilkan hasil bisnis yang positif, merek juga mengalami konsekuensi yang tidak terduga dari penerapannya. Ini dapat berasal dari kurangnya penelitian atau kumpulan data yang bias, di antara alasan lainnya. Penyalahgunaan AI atau pengabaian masalah etika dapat mengakibatkan rusaknya reputasi merek, kegagalan produk, litigasi, dan masalah regulasi.

Langkah pertama untuk menegakkan standar etika di seluruh tim dalam organisasi Anda dimulai dengan memahami masalah yang dihadapi pemasar, sehingga Anda dapat menyusun rencana untuk memitigasi risiko bisnis ini dan melindungi merek Anda.

Masalah etika AI apa yang menjadi perhatian utama pemasar

Ada berbagai masalah etika AI dalam industri teknologi termasuk, namun tidak terbatas pada, berikut ini:

• Pembuatan konten palsu
• Dapat dijelaskan
• Dampak sosial
• penyalahgunaan teknologi
• Bias
• Tanggung jawab dan privasi data
• Keadilan
• Kekokohan
• Transparansi
• Ketahanan lingkungan
• Keanekaragaman dan inklusi
• Hak pilihan moral dan keselarasan nilai
• Kepercayaan dan akuntabilitas

Beberapa percaya bahwa AI dapat membantu membangun teknologi, sistem, dan layanan yang lebih inklusif yang dapat melayani populasi yang beragam. Kuncinya adalah menetapkan kerangka kerja etis, peraturan, dan mekanisme untuk memastikan penggunaan yang bertanggung jawab.

Seorang anggota Arboretum, forum komunitas Sprout, mencatat AI memiliki potensi untuk mempromosikan inklusivitas dan mengurangi bias/diskriminasi dengan memastikan proses pengambilan keputusan yang adil dan tidak memihak. Dengan mengatasi masalah seperti bias algoritmik dalam pengembangan AI, dimungkinkan untuk membentuk masa depan di mana AI adalah kekuatan perubahan yang positif.

Seiring dengan potensi perubahan positif, ada juga peluang untuk penyalahgunaan atau penggunaan AI yang tidak etis karena semakin kuat. Komunitas kami membahas beberapa risiko termasuk pelanggaran privasi, manipulasi opini publik, dan senjata otonom.

Komentar seperti ini hanyalah sekedar permukaan dari kekhawatiran etika di berbagai industri, namun masalah utama bagi pemasar mencakup: keamanan kerja, privasi, bias dan diskriminasi, misinformasi dan disinformasi, serta masalah kekayaan intelektual/hak cipta, yang akan kami bahas secara mendetail di artikel ini. bagian berikutnya.

Dampak terhadap pekerjaan dan perpindahan pekerjaan

Robot yang mengamankan dominasi dunia bukanlah kekhawatiran kita—setidaknya untuk saat ini.

Hal ini karena para peneliti dan pakar tidak terancam oleh singularitas teknologi, atau gagasan bahwa AI akan melampaui kecerdasan manusia dan meniru sifat-sifat seperti keterampilan sosial. Mereka menyadari keterbatasan AI dan potensi konsekuensi dari penggantian pekerjaan.

Tujuan dari penelitian dan investasi pada AI bukanlah untuk menggantikan manusia—tetapi untuk membantu kita menghemat waktu dan tenaga untuk melakukan hal-hal yang lebih berdampak. Direktur Media Sosial dan Kemitraan Flock Freight, Bob Wolfley berbagi analogi yang bagus untuk AI: “AI itu seperti mesin pencuci piring atau mesin cuci di rumah kita. Pikirkan seluruh waktu yang Anda hemat dengan tidak mencuci piring atau pakaian dengan tangan.”

Dalam seri Unread kami, anggota tim pemasaran dan kreatif Sprout mendiskusikan bagaimana mereka saat ini menggunakan AI, mulai dari berbelanja yang dipersonalisasi hingga menggunakan fitur seperti ViralPost untuk membantu menjadwalkan postingan sosial. Tonton video di bawah ini untuk mendengar pendapat mereka mengenai manfaat dan ketakutan AI, termasuk penggantian pekerjaan:

Masalah privasi

Kekhawatiran seputar privasi, perlindungan, dan keamanan data menjadi perhatian utama bagi merek. Investasi keamanan semakin menjadi prioritas bagi dunia usaha karena mereka berupaya menghindari peluang pengawasan, peretasan, dan serangan siber. Ketika personalisasi menjadi lebih populer, merek menerapkan praktik terbaik untuk mengumpulkan, menyimpan, dan menganalisis data guna melindungi pelanggan dan organisasi.

Bias dan diskriminasi algoritmik

Karena AI belajar dari data, AI yang dibangun atau dilatih dengan buruk dapat menunjukkan bias terhadap subkumpulan data yang kurang terwakili. Ada beberapa kasus besar bias terhadap karya seni yang dihasilkan AI, chatbot, perangkat lunak pengenalan wajah, algoritme, dan alat AI untuk praktik perekrutan.

Misalnya, beberapa pengguna TikTok dan Twitter [berganti nama menjadi X per Juli 2023] menyerukan topik yang menampilkan “#SouthSudan Barbie” yang dihiasi dengan senjata, sebuah stereotip negatif yang terkait dengan wilayah yang bergulat dengan masalah sosial-politik seperti genosida dan krisis pengungsi. .

Dengan adanya bias yang semakin mempertaruhkan penggunaan AI seperti ini, pertanyaannya adalah bagaimana kita mengatasi bias dan diskriminasi ketika kumpulan data pelatihan dapat menyebabkan bias?

Misinformasi dan disinformasi

Seperti manusia, AI tidaklah sempurna. Respons AI terhadap perintah bisa jadi tidak akurat dan ada kekhawatiran orang-orang menyebarkan informasi yang salah dengan niat jahat. Selain ancaman disinformasi, terdapat potensi krisis merek dan kerusakan reputasi, terutama jika tidak ada perlindungan dan protokol yang tepat.

Masalah kekayaan intelektual dan hak cipta

Anda mungkin pernah melihat pemeran Harry Potter sebagai karakter dalam film Wes Anderson atau warga Bikini Bottom menyanyikan membawakan lagu-lagu populer. Ini adalah contoh betapa banyak orang yang menggunakan AI untuk menggunakan gambar dan kemiripan atau kekayaan intelektual seseorang.

AI adalah mitra tanding yang sangat baik untuk tugas-tugas kreatif seperti bertukar pikiran dan membuat kerangka, namun bergantung pada bagaimana keluarannya digunakan, hal ini dapat menyebabkan pelanggaran hak cipta, plagiarisme, dan pelanggaran kekayaan intelektual. Misalnya, sekelompok artis mengajukan gugatan terhadap Midjourney dan Stability AI pada Januari 2023 dengan mengklaim bahwa alat tersebut melanggar hak jutaan artis. AI generatif membuka peluang hukum dan masih banyak hal yang perlu dibahas, namun menciptakan peraturan dan kerangka kerja yang proaktif akan membantu mengurangi risiko etika.

5 langkah untuk menjaga etika AI dalam tim

Berikut lima langkah untuk membantu memandu rencana Anda dalam memitigasi risiko etika AI:

1. Menetapkan peraturan dasar internal dan tanggung jawab penggunaan AI

Pertimbangkan untuk membentuk tim etika AI yang terdiri dari ahli etika, pakar hukum, ahli teknologi, dan pemimpin untuk membantu menetapkan aturan dasar bagi organisasi Anda. Misalnya, hanya menggunakan AI generatif untuk draf dan brainstorming, namun tidak untuk konten yang dipublikasikan secara eksternal adalah aturan dasar yang sangat baik.

Bersamaan dengan aturan dasar ini, tentukan peran dan tanggung jawab setiap anggota tim yang terlibat dalam AI, termasuk tim etika. Tetapkan juga tujuan dan nilai Anda untuk AI. Ini akan membantu menetapkan dasar untuk kebijakan etika AI dan praktik terbaik Anda.

2. Mendefinisikan dan mengaudit peran AI

AI tidak dapat menggantikan pembuat konten, ahli strategi media sosial, atau peran apa pun dalam pemasaran. Identifikasi tugas-tugas AI yang memerlukan pengawasan atau intervensi manusia dan tentukan dengan tepat tujuan kebijakan etika AI Anda untuk membantu menyusun proses pengembangan, pengelolaan, dan komunikasi tentang AI.

Setelah Anda mengidentifikasi tujuan kebijakan etika Anda, identifikasi celah dan peluang untuk AI di organisasi Anda. Pertimbangkan pertanyaan-pertanyaan berikut:

• Bagaimana organisasi saat ini menggunakan AI dan bagaimana kami ingin menggunakannya di masa mendatang?
• Perangkat lunak dan analisis apa yang dapat membantu kita memitigasi risiko bisnis?
• Kesenjangan apa yang diciptakan oleh teknologi dan analisis? Bagaimana kita mengisinya?
• Tes atau eksperimen apa yang perlu kita lakukan?
• Solusi apa yang dapat kami gunakan dengan praktik terbaik saat ini untuk tim produk kami?
• Bagaimana Anda akan menggunakan data dan wawasan?
• Bagaimana kami akan menetapkan pemosisian dan pesan merek kami untuk teknologi dan etika AI?

3. Mengembangkan proses evaluasi vendor yang kedap udara

Bermitralah dengan tim TI dan hukum Anda untuk memeriksa alat apa pun dengan kemampuan AI dengan benar dan menetapkan proses risiko etis. Keahlian mereka akan membantu Anda mengevaluasi pertimbangan baru seperti kumpulan data yang menjadi dasar pelatihan alat dan kontrol yang dimiliki vendor untuk memitigasi bias AI. Proses uji tuntas untuk setiap alat sebelum diluncurkan secara eksternal atau internal akan membantu Anda mengurangi risiko di masa mendatang.

4. Jaga transparansi dalam keterbukaan

Berkolaborasi dengan tim hukum dan/atau privasi Anda untuk mengembangkan pesan eksternal dan/atau penafian untuk menunjukkan di mana dan kapan merek Anda mengandalkan AI. Pesan-pesan ini dapat digunakan untuk konten, layanan pelanggan, dll. Misalnya, TikTok memperbarui pedoman komunitasnya untuk mewajibkan pembuat konten memberi label pada konten yang dihasilkan AI. Mengkomunikasikan standar etika dan kerangka kerja Anda untuk memperjuangkan etika AI akan membantu mendapatkan kepercayaan dari rekan kerja, prospek, dan pelanggan.

5. Lanjutkan pendidikan lintas kepemimpinan dan tim

AI bukanlah sesuatu yang dapat dilakukan oleh kepemimpinan bisnis secara terburu-buru. Seperti gelombang baru inovasi yang muncul, akan ada kurva pembelajaran, di atas tonggak teknologi baru. Membantu menyamakan kedudukan dengan mengadakan pelatihan dan lokakarya internal untuk mengedukasi seluruh anggota tim, pemimpin, dan pemangku kepentingan mengenai etika AI dan cara membangunnya secara bertanggung jawab.

Lakukan hal yang benar dengan etika AI

Mempertimbangkan etika bukan hanya hal yang benar untuk dilakukan—ini adalah komponen penting dalam memanfaatkan teknologi AI dalam bisnis.

Pelajari lebih banyak perspektif dari para pemimpin dan pemasar tentang bagaimana AI akan berdampak pada masa depan sosial di webinar kami, bersama dengan temuan lain dari The State of Social Media Report 2023 dan tips untuk membuat konten sosial yang berdampak.