Microsoft Word - Pembelajaran Mendalam Vs Model Tradisional_Abdel Hai_Final.Bagian 2

Untuk menyiapkan data untuk model pembelajaran mesin, teknik prapemrosesan data berikut dilakukan.

Data dan memori berkaitan erat. Dalam masyarakat modern, kita menerima sejumlah besar informasi dan data setiap hari, termasuk teks, gambar, video, dll. Cara memproses dan mengatur data ini secara efektif mengharuskan kita memiliki ingatan yang kuat.

Di satu sisi, data dapat memberi kita dukungan memori. Misalnya, ketika kita mempelajari pengetahuan baru, kita dapat memahami dan menguasai poin-poin pengetahuan lebih cepat dan lebih baik dengan menghafal data dan fakta yang relevan. Metode pembelajaran seperti ini dapat membantu kita membangun daya ingat yang kuat dan mempertahankan kemampuan mengontrol pengetahuan dalam waktu yang lama.

Di sisi lain, data juga dapat membantu kita melatih dan meningkatkan daya ingat. Melalui berbagai metode pelatihan memori, kita dapat secara fleksibel menggunakan data untuk melakukan pelatihan memori, meningkatkan kemampuan memori kita sampai batas tertentu, sehingga lebih beradaptasi dengan perkembangan masyarakat serta kebutuhan pekerjaan dan kehidupan.

Terlihat bahwa hubungan antara data dan memori sangat erat dan penting. Hanya dengan memproses dan memanfaatkan data secara aktif dan efektif, kita dapat memanfaatkan kemampuan memori kita dengan lebih baik dan mencapai hasil yang lebih baik. Oleh karena itu, kita harus secara aktif menangani hubungan antara data dan memori, melakukan pelatihan dan aplikasi yang relevan, dan terus meningkatkan kemampuan kita. Terlihat bahwa kita perlu meningkatkan daya ingat, dan Cistanche deserticola dapat meningkatkan daya ingat secara signifikan, karena Cistanche deserticola juga dapat mengatur keseimbangan neurotransmiter, seperti meningkatkan kadar asetilkolin dan faktor pertumbuhan. Zat-zat ini sangat penting untuk daya ingat dan pembelajaran. Selain itu, Daging juga dapat meningkatkan aliran darah dan meningkatkan pengiriman oksigen, yang dapat memastikan otak menerima nutrisi dan energi yang cukup, sehingga meningkatkan vitalitas dan daya tahan otak.

Klik tahu cara meningkatkan fungsi otak

Fitur kategoris adalah salah satu kode panas; fitur kontinu dan diskrit dinormalisasi menggunakan teknik normalisasi min-maks,32 didefinisikan sebagai:

Terdapat jumlah rekaman yang berbeda dalam setiap pertemuan untuk setiap fitur berikut. Jadi, nilai statistik berikut ini yang dihitung. Untuk tekanan darah diastolik dan sistolik, kami menghitung nilai minimum, maksimum, dan rata-rata.

Untuk BMI, digunakan minimum, maksimum, mean, dan koefisien varians. Nilai statistik ini dinormalisasi dan digunakan sebagai fitur. Selain itu, jumlah fitur berbeda pada saat pertemuan karena perbedaan jumlah tes laboratorium, diagnosis, dan prosedur. Suatu pertemuan bisa mempunyai banyak diagnosis dan/atau kode prosedur atau tidak sama sekali.

Untuk mengatasi hal ini dan menyatukan dimensi vektor fitur, teknik representasi data berikut digunakan untuk meningkatkan pembelajaran model. Untuk diagnosis dan kode prosedur, kami menggunakan representasi pengkodean one-hot, dengan setiap nilai ditetapkan ke 0 atau 1, yang menunjukkan apakah kode diagnosis/prosedur ada atau tidak untuk setiap pertemuan. Kami sedikit memodifikasi teknik representasi data ini untuk pengujian laboratorium karena setiap pengujian memiliki hasil yang terkait.

Oleh karena itu, kami mengganti 1, yang menunjukkan adanya kode, dengan hasil laboratorium. Hasil laboratorium dinormalisasi menggunakan Persamaan 1. Karena hasil memiliki satuan dan ukuran yang berbeda, maka ketika normalisasi hasil laboratorium, kami mempertimbangkan minimum dan maksimum untuk setiap kode laboratorium secara terpisah. Teknik ini menciptakan array renggang berdimensi tinggi karena banyaknya kode unik.
Kemudian, kami menggunakan algoritme Dekomposisi Nilai Singular (SVD) untuk mempelajari penyisipan dan pengurangan dimensi. SVD digunakan karena tidak mengasumsikan matriks persegi sebagai masukan dan lebih baik untuk data renggang.33 Uji laboratorium dikurangi menjadi 50 komponen, prosedur kode dikurangi menjadi 45 komponen, dan kode diagnosis dikurangi menjadi 25 komponen.

Komponen yang berbeda dieksplorasi dan jumlah rasio varians diamati untuk menentukan jumlah komponen yang optimal untuk mengurangi dimensi. Semua fitur digabungkan dalam vektor fitur untuk setiap pertemuan. SVD diterapkan pada setiap pertemuan secara terpisah untuk mereduksi dan menyatukan dimensi; dimensi pertemuan dikurangi menjadi 50 fitur per pertemuan.

Kemudian, kami menggabungkan semua pertemuan untuk pasien tertentu dalam vektor fitur yang diurutkan secara berurutan berdasarkan tanggal masuk. Sebaran kelasnya sebanyak 27.511 pasien yang tidak masuk kembali (kelas negatif) dan 9.130 pasien yang masuk kembali (kelas positif).

Pendekatan Eksperimental

Kami melakukan eksperimen ekstensif menggunakan data EHR untuk mencapai tujuan berikut:

- Memprediksi apakah pasien diabetes akan diterima kembali dalam waktu 30 hari

- Bandingkan kinerja metode DL yang digunakan dengan beberapa model tradisional

- Menganalisis berapa banyak pertemuan sebelumnya (yaitu, data historis) dalam 2 tahun yang optimal untuk memprediksi penerimaan kembali

- Mengevaluasi efek menggabungkan semua tes laboratorium dalam data versus pembelajaran dari subset tes yang dipilih oleh pakar domain

Dalam studi ini, model DL mengambil input berupa tensor dimensi 3-3- � x � x � untuk merepresentasikan fitur f pada setiap pertemuan untuk p pasien. Sebaliknya, dalam model tradisional, data biasanya direpresentasikan sebagai matriks dimensi 2-, dengan semua fitur dari semua pertemuan berhubungan dengan satu pasien yang digabungkan dalam vektor fitur yang panjang.

Dimensi setiap pertemuan dikurangi dan disatukan menjadi 50 fitur, oleh karena itu, dalam model mendalam � berukuran 50. Dalam model tradisional, vektor fitur terdiri dari semua pertemuan dan oleh karena itu berukuran � x 50.

Pasien mempunyai jumlah pertemuan yang berbeda-beda sehingga menghasilkan dimensi yang tidak seragam; karenanya, vektor fitur diisi dengan 0 untuk mencapai bentuk terpadu. Representasi data yang digunakan sebagai masukan untuk DL dan model tradisional diilustrasikan masing-masing di panel kiri dan kanan Gambar 1.
Untuk memodelkan data sekuensial heterogen, kami mengembangkan 2 varian model DL dan membandingkan keduanya dengan beberapa model tradisional yang digunakan sebagai dasar. Model DL yang digunakan dalam penelitian kami adalah: 1) jaringan 1-way Long Short-Term Memory (LSTM), yang merupakan varian dari Recurrent Neural Network (RNN) yang mampu mempelajari data berurutan ketergantungan32; dan 2) BiDirectional Gated Recurrent Unit (GRU), yang merupakan varian lain dari RNN.

Model tradisional yang digunakan sebagai dasar adalah: 1) Random Forest (RF), sebuah metode ansambel untuk klasifikasi dan regresi; selama pelatihan, ia membangun beberapa pohon keputusan;30 RF sering kali mencapai kinerja tercanggih dalam literatur yang ada mengenai prediksi menggunakan data medis. 2) Multi-layer Perceptron (MLP), model jaringan saraf sederhana yang tidak memperhitungkan informasi temporal.

MLP terdiri dari beberapa lapisan perceptron, melakukan pembelajaran propagasi mundur, dan menggunakan fungsi aktivasi non-linier.31 3) Regresi Logistik (LR), model yang dapat ditafsirkan dan sering digunakan dalam literatur prediksi penerimaan kembali dan diterapkan pada data medis; dan 4) AdaBoost, yang tidak terlalu rentan terhadap overfitting karena parameter inputnya tidak dioptimalkan secara bersamaan.

Model DL diimplementasikan menggunakan pustaka Python "Keras", API tingkat tinggi "TensorFlow". Pustaka "Scikit-learn" digunakan untuk mengimplementasikan model tradisional dengan Python.

Arsitektur model yang diusulkan, LSTM, terdiri dari 128 neuron, lapisan sekuensial, lapisan pembentukan ulang yang digunakan untuk membentuk ulang masukan ke tensor dimensi 3-, dan lapisan penutup dengan nilai masker 0 digunakan untuk melewati langkah waktu yang datanya hilang.

Karena padding dengan 0 dilakukan untuk menyatukan dimensi, lapisan masking digunakan untuk menghindari komputasi apa pun dengan nilai yang hilang di semua lapisan setelah lapisan masking, oleh karena itu, nilai yang hilang tidak diperhitungkan selama pembelajaran.

Selain itu, dropout ditambahkan antara lapisan tersembunyi dan lapisan keluaran. Memanfaatkan teknik ini untuk memilih secara acak persentase penurunan tertentu, merupakan teknik regularisasi umum yang membantu model dalam mempelajari pola umum dalam data.

RNN adalah varian jaringan saraf, yang terdiri dari neuron tersembunyi yang mampu menganalisis data EHR temporal.32 RNN terdiri dari struktur yang sama dengan jaringan saraf dasar, namun neuron di lapisan yang sama terhubung, sehingga memungkinkan neuron belajar dari jaringan saraf yang sama. lapisan yang berdekatan, selain belajar dari keluaran lapisan sebelumnya dan data masukan. Jadi, neuron RNN mencakup dua sumber masukan, masa kini, dan masa lalu. Proses belajar diartikan sebagai:

Untuk menghitung nilai �" dari neuron tersembunyi, �, fungsi transformasi non-linier, ReLU, diterapkan pada �nilai tertimbang dari neuron tersembunyi kirinya �"#$ dan nilai � tertimbang dari inputnya �".

Prediksi dihitung menggunakan fungsi asigmoid dari � jumlah semua neuron tersembunyi dengan bias tambahan � tertimbang. Kelemahan RNN adalah ia mengalami masalah gradien hilang, artinya bobot tetap tidak berubah sehingga menyulitkan model untuk melakukan konvergensi, sehingga model kesulitan untuk belajar.

Untuk mengatasi hal ini, lapisan LSTM diperkenalkan di mana neuron sigmoid RNN diganti dengan struktur memori jangka pendek yang lebih kompleks. LSTM memiliki bobot yang sama di seluruh lapisan, sehingga mengurangi jumlah parameter yang dihitung jaringan.

GRU adalah solusi alternatif untuk menghilangkan masalah gradien. Ia menggantikan neuron sederhana dengan unit yang memiliki gerbang, yang memiliki parameter lebih sedikit dibandingkan neuron LSTM karena tidak memiliki gerbang keluaran.33

For more information:1950477648nn@gmail.com