Musim 1, Episode 2: AI Amnesia, Teknologi Kesehatan, dan Mengapa Manusia Sulit Ditiru

Dalam episode AI Navigators ini, kami duduk bersama Sasho Savkov, manajer teknik untuk tim AI/ML di Lokalise.

Dengan PhD dalam ekstraksi informasi klinis dan hampir satu dekade membangun solusi perawatan kesehatan, Sasho membawa perspektif unik tentang apa yang sebenarnya berfungsi versus apa yang hanya kebisingan.

Dia menantang salah satu asumsi terbesar di AI hari ini: Pendekatan pembelajaran single-shot saat ini akan membawa kita ke kecerdasan tingkat manusia.

Wawasannya mengungkapkan mengapa karya yang hilang bukanlah model yang lebih canggih, tetapi sesuatu yang jauh lebih mendasar.

Tonton wawancara lengkap di bawah ini:

Bisakah Anda memberi kami pengantar singkat tentang peran Anda di Lokalise?

Hai, saya sangat senang berada di sini. Saya menantikan percakapan yang sangat menarik. Sedikit tentang diri saya. Saya manajer teknik untuk tim AI/ML, yang merupakan bagian dari domain terjemahan. Kami bertanggung jawab atas terjemahan AI yang disediakan Lokalise. Saya berasal dari Bulgaria, tetapi berbasis di Inggris.

Saya memiliki gelar PhD dalam ekstraksi informasi klinis, yang merupakan disiplin AI NLP (pemrosesan bahasa alami) lama, dan saya menghabiskan sekitar tujuh atau delapan tahun di AI teknologi kesehatan sebelum bergabung dengan Lokalise.

Apa yang Anda bangun dengan teknologi kesehatan?

Enam atau tujuh tahun yang lalu, chatbots awal muncul dan mulai bertenaga AI daripada berbasis aturan. Salah satu hal yang saya lakukan adalah mengekstraksi informasi dari pertanyaan pengguna dan memastikan kami menghubungkannya dengan jawaban yang tepat atau menanganinya dengan benar.

Kemudian, tepat sebelum chatgpt menjadi arus utama, saya membangun alat untuk medis untuk meringkas konsultasi video mereka berdasarkan sinyal video dan audio.

Begitu seperti sistem catatan yang sekarang kita miliki di Google Meet atau Zoom, tetapi khususnya untuk dokter dan dengan teknologi yang tidak secepat, jadi perlu penyetelan yang luas.

Apa yang paling Anda sukai sekarang dalam hal AI?

Secara pribadi, saya paling senang dengan generasi baru alat yang ditingkatkan AI ini, seperti kursor. Kursor pada dasarnya adalah sebuah IDE-lingkungan pengembangan untuk pemrograman-tetapi sepenuhnya terintegrasi. Anda dapat meminta jalan Anda melalui pengembangan perangkat lunak, yang merupakan pendekatan yang berbeda secara fundamental karena tugas yang digunakan untuk membutuhkan banyak waktu untuk mengetik dan mengeksekusi sekarang terjadi lebih cepat. Ada trade-off: Terkadang AI tidak sempurna, tapi cepat.

Dan ini adalah alat yang dapat Anda terapkan pada hal -hal lain seperti copywriting dan semua jenis kegiatan berbasis teks seperti.

Saya melihat generasi baru alat yang ditingkatkan AI mengubah cara kerja orang dan berapa banyak pekerjaan yang dapat kita capai. Kita akan menjadi sangat buruk pada awalnya, tetapi akhirnya kita akan membaik, dan model akan menjadi lebih baik juga.

Jadi itu cukup menarik bagi saya saat ini.

Apakah Kursor merupakan alat yang dapat digunakan oleh orang-orang non-teknis seperti saya dan membuat aplikasi dan perangkat lunak?

Kursor mungkin belum ada untuk pengguna non-teknis. Ada alat lain yang disebut Lovable yang lebih tinggi dan dapat diakses. Kursor bekerja paling baik ketika Anda tahu persis apa yang ingin Anda bangun dan membantu Anda membangunnya, sedangkan Lovable memungkinkan orang biasa membuat aplikasi kecil, mungkin menggunakan templat.

Ini pada dasarnya adalah “pengkodean getaran”. Alih -alih menulis kode dan memikirkan semua yang dilakukannya, Anda melihatnya dan mendapatkan getaran apakah itu kira -kira apa yang Anda inginkan. Jika Anda harus memikirkan semua yang ditulis, itu akan memakan waktu terlalu lama, jadi lebih mudah untuk mendapatkan getaran dan mengujinya.

Apakah ada satu tren apakah ada satu tren yang menurut Anda satu tren AI yang menurut Anda overhyped dan mungkin satu yang tidak mendapatkan cukup cinta saat ini?

Ini menarik karena bagi saya, ini sebenarnya teknologi yang sama. Landasan pemanfaatan AI saat ini adalah pembelajaran single-shot. Model AI kami sangat pandai belajar bagaimana melakukan sesuatu ketika Anda memberi mereka satu contoh. Ini sangat berguna karena Anda dapat berinteraksi dengan AI dengan cara yang sangat spesifik. Anda dapat mengatakannya untuk menulis dokumen persyaratan produk (PRD) persis seperti yang Anda inginkan, bukan hanya versi generik.

Dan itu memberikan banyak nilai melalui teknik seperti pengambilan augmented generasi (RAG), di mana Anda memberikan konteks dan contoh -contoh kecil tentang apa yang Anda inginkan. Tapi inilah bagian yang overhyped: orang berpikir pendekatan ini akan membawa kita ke AGI (kecerdasan umum buatan) atau memecahkan jalan menuju pengawasan. Saya pikir pada dasarnya orang salah. Ini bukan bagaimana kita akan sampai di sana.

Yang hilang adalah ingatan. Ini adalah kutukan dan berkah AI saat ini, Anda harus menjelaskan semuanya dari awal setiap saat.

Jika Anda ingin melakukan sesuatu dua kali, Anda perlu memberikan konteks dan instruksi yang sama untuk pembelajaran single-shot itu terjadi lagi.

Ini bukan kasus untuk manusia: jika Anda memiliki magang dan mereka, tunjukkan kepada mereka cara menulis PRD, mungkin mereka perlu beberapa percobaan, tetapi seminggu kemudian mereka menulis PRD mereka sendiri tanpa Anda menjelaskan prosesnya lagi.

Dengan AI, kami selalu harus memberikan instruksi yang tepat, dan ada sifat tidak jelas yang membuatnya lebih tidak terduga.

Dan Anda menyebutkan Rag. Apakah itu masih dianggap sebagai tembakan tunggal, meskipun hampir mengambil informasi itu sendiri?

Maksudku, kita semacam mensimulasikan apa yang benar -benar hilang: memori.

Model AI tidak memiliki kemampuan untuk menyimpan sesuatu, mempelajarinya, dan bertahan. Dan apa yang dilakukan perusahaan pada dasarnya adalah semacam meniru itu melalui sistem eksternal yang bertindak sebagai memori. Dan Rag itu jenis itu.

Kami menyimpan hal -hal seperti terjemahan masa lalu dan memberikan istilah glosarium yang relevan untuk terjemahan saat ini. Ini berfungsi sebagai apa yang akan menjadi pengalaman bagi manusia: pekerjaan terjemahan masa lalu dan keahlian.

Kami memberikan konteks yang tepat sehingga AI dapat membangun sesuatu yang menyerupai pengalaman masa lalu dari informasi.

Menurut Anda, bagaimana evolusi AI ini mengubah lanskap teknologi kesehatan?

Ada peluang besar untuk perubahan, tetapi juga sangat lambat untuk mengadopsi teknologi baru karena konservatisme yang melekat. Ketika saya berada di teknologi kesehatan, saya melihat banyak hal yang berpotensi kita lakukan, tetapi pada akhirnya itu adalah sistem yang sangat manusiawi.

Saya tidak berpikir kita akan segera melihat perubahan besar. AI dalam teknologi kesehatan akan selalu tertinggal. Kecuali jika sistem berubah secara mendasar, kami tidak akan dapat membantu sebanyak mungkin dengan AI karena perawatan pada dasarnya manusia. Domain perawatan kesehatan sangat dioptimalkan dan manusia di dalamnya sangat terampil, jadi sulit untuk bersaing dengan mereka.

Saya akan mengatakan kita mungkin tidak akan melihat dampak besar dalam lima hingga sepuluh tahun ke depan. Akan ada perubahan dan peningkatan bertahap.

Pemerintah perlu memusatkan data dengan lebih baik dan sedikit melonggarkan tata kelola untuk memanfaatkan AI secara efektif dalam teknologi kesehatan.

Akhirnya kita perlu memikirkan kembali bagaimana rumah sakit bekerja dan bagaimana teknologi kesehatan diterapkan, tetapi ini akan menjadi proses yang lambat. Anda tidak ingin perubahan cepat dalam perawatan kesehatan karena memiliki efek mendalam pada perawatan kesehatan dan kehidupan manusia.

Dan dalam lokalisasi untuk perawatan kesehatan, apakah Anda melihat AI memainkan peran besar?

Saya benar -benar melakukan lokalisasi untuk salah satu perusahaan saya sebelumnya. Kami mendekatinya dengan cara yang sama dengan cara kami melakukannya sekarang di Lokalise: banyak terjemahan mesin dan model penyempurnaan untuk hasil yang baik. Kami melokalisasi ke dalam bahasa Cina, yang sangat sulit karena kami tidak memiliki penutur asli dan hanya satu penerjemah mahal yang dapat menangani data perawatan kesehatan dengan benar.

Data perawatan kesehatan bukanlah konten reguler: Nuansa lebih penting bagi model pembelajaran mesin yang kami latih.

Perusahaan perawatan kesehatan akan memiliki tantangan serupa sekarang, tetapi akan jauh lebih mudah untuk menangani upaya lokalisasi. Di sisi lain, organisasi perawatan kesehatan seperti rumah sakit yang mencoba melokalisasi aplikasi atau portal web mereka akan menghadapi tantangan yang mirip dengan lokalisasi perangkat lunak di domain apa pun.

Yang umum bagi keduanya adalah Anda ingin manusia meninjau terjemahan dan memastikan itu benar. Saya tidak berpikir itu akan berubah di masa mendatang.

Dalam perawatan kesehatan, ada alasan yang sangat kuat untuk mempertahankan pengawasan manusia, untuk alasan peraturan dan branding.

Pernahkah Anda melihat peningkatan adopsi AI di industri perawatan kesehatan?

Ya, secara keseluruhan itu terjadi di banyak bidang. Semua orang berusaha, tetapi persentasenya benar -benar mengadopsi AI sebenarnya cukup kecil. Dalam perawatan kesehatan, terutama di Eropa, Anda memiliki peraturan yang ketat tentang perangkat medis, dan sebagian besar aplikasi AI yang terkait dengan pengambilan keputusan diklasifikasikan sebagai perangkat medis.

Banyak perusahaan mencoba untuk berhubungan dengan teknologi kesehatan, tetapi hanya sedikit yang benar-benar berhasil menggunakan AI secara legal dan membuat perbedaan nyata. Saya pikir angka itu akan tumbuh, tetapi itu akan menjadi pertumbuhan yang stabil. Ini tidak akan menjadi ledakan.

⚡ Petir

Apa satu hal yang masih belum bisa dilakukan AI?

Nah, ingat bagaimana melakukan apa yang baru saja dilakukan.

Bagaimana Anda membayangkan AI dalam kehidupan sehari -hari 10 tahun dari sekarang?

Sulit membayangkan, tapi saya pikir itu akan ada di mana -mana. Dalam 10 tahun, kita akan bertanya pada diri sendiri pertanyaan yang harus kita tanyakan sekarang: Berapa banyak yang harus kita adopsi AI? Apa prosedur keselamatannya? Saya pikir kita akan mengalami krisis yang kita alami sekarang dengan media sosial, tetapi dengan AI, yang kedengarannya tidak bagus, tapi mungkin kita akan menanganinya lebih baik kali ini.

Jika Anda bisa memberikan suara AI, selebriti apa itu?

Oke, jadi saya pikir Adam berkata Emma Thompson, yang saya berdiri. Tetapi jika saya harus memberikan versi saya tentang ini akan menjadi suara sintetis. Jadi saya pikir yang paling cocok adalah seperti jika kita bisa sepenuhnya mensintesis suara hanya dengan membuatnya benar -benar ai dan tidak seperti orang lain.

Jika AI dapat mempelajari satu keterampilan manusia dalam semalam, apa itu atau apa yang seharusnya?

Saya tidak akan mengatakan memori kali ini, meskipun itu harus memori. Jika memiliki ingatan, itu akan membutuhkan empati yang tulus dan kreativitas yang tulus. Itu adalah tiga hal yang hilang saat ini: tidak ada ingatan, tidak ada pembelajaran dari pengalaman, tidak ada berempati, dan tidak ada kreativitas, hanya pengulangan hal -hal yang telah kita lihat.

Apa satu tugas lokalisasi yang hanya akan Anda percayai manusia?

Saya dari tim yang akan berdebat sebaliknya, jujur. Saya pikir ulasan masih sangat penting. Tinjauan manusia adalah sesuatu yang perlu kita miliki dalam banyak kasus. Luasnya tergantung pada kasus penggunaan, tetapi saya pikir itu berharga baik untuk AI dan hasil akhirnya untuk membuat manusia memberikan ulasan akhir.

Berlangganan buletin dua mingguan kami untuk menjadi yang pertama kali diketahui Episode berikutnya dari AI Navigators.