Học máy và khả năng ứng dụng trong các hệ thống thông tin vô tuyến

Nghiên cứu khoa học công nghệ 
Tạp chí Nghiên cứu KH&CN quân sự, Số Đặc san Viện Điện tử, 9 - 2020 11
HỌC MÁY VÀ KHẢ NĂNG ỨNG DỤNG 
TRONG CÁC HỆ THỐNG THÔNG TIN VÔ TUYẾN 
Bùi Thị Thanh Tâm1*, Trần Xuân Nam2 
Tóm tắt: Cùng với sự phát triển của Cuộc cách mạng công nghiệp lần thứ 4, 
truyền thông vô tuyến đang ngày càng phát triển nhằm đảm bảo truyền dẫn, thông tin 
liên lạc nhanh, an toàn, tin cậy trong các điều kiện chịu ảnh hướng lớn của môi 
trường truyền sóng vô tuyến phức tạp. Sự phát triển mạnh mẽ của các công nghệ xử lý 
tiên tiến đã thúc đẩy việc nghiên cứu ứng dụng trí tuệ nhân tạo (Artificial Intelligence 
- AI) vào các hệ thống thông tin vô tuyến (TTVT) thế hệ tiếp theo nhằm tăng khả năng 
tự học, nhận biết, và tự xử lý để có thể kết nối với nhau thích nghi theo điều kiện 
truyền dẫn thực tế, giảm bớt thời gian xử lý, đồng thời có thể đạt được hiệu năng cao 
hơn. Bài báo này trình bày một nghiên cứu tổng quan về nguyên lý và các kết quả đạt 
được gần đây về ứng dụng học máy trong các hệ thống TTVT, trên cơ sở đó gợi mở 
một số chủ đề nghiên cứu có ý nghĩa khoa học và thực tiễn. 
Từ khóa: Hệ thống thông tin vô tuyến; Học máy; Học sâu. 
1. GIỚI THIỆU 
Các hệ thống thông tin vô tuyến luôn đòi hỏi ứng dụng các công nghệ mới 
nhằm đáp ứng yêu cầu truyền tin tốc độ nhanh, độ tin cậy cao trong điều kiện băng 
tần hạn chế, môi trường kênh truyền phức tạp chịu ảnh hưởng của các nguồn nhiễu 
và hiện tượng pha-đinh vô tuyến. Cùng với sự phát triển của các công nghệ tính 
toán tiên tiến, trí tuệ nhân tạo ngày càng được ứng dụng rộng rãi trong các hệ 
thống công nghệ điện tử, truyền thông và công nghệ thông tin. Các nghiên cứu mới 
nhất về thông tin vô tuyến đã cho thấy trí tuệ nhân tạo, mà cụ thể là học máy 
(Machine Learning - ML), sẽ được ứng dụng rộng rãi trong thông tin vô tuyến thế 
hệ tiếp theo như thông tin quân sự, thông tin di động thế hệ thứ 6 (6G) [1], hệ 
thống kết nối Internet vạn vật (Internet of Things - IoT) [2], hệ thống thông tin 
phục vụ giao thông thông minh (Intelligence Transport System - ITS) [3],... Việc 
ứng dụng ML trong TTVT đem lại nhiều tiềm năng về xử lý tín hiệu nhờ đặc tính 
tự học như không yêu cầu thông tin trạng thái kênh thông tin trạng thái kênh [4], 
mã hóa [5, 6], xử lý dữ liệu lớn, đa chiều [7] theo định hướng của các hệ thống vô 
tuyến cấu hình mềm, thông minh. 
Bài báo này trình bày tổng quan về khả năng ứng dụng học máy trong TTVT, 
các kết quả bước đầu đạt được và tiềm năng phát triển trong tương lai. Bài báo tập 
trung chủ yếu vào khả năng ứng của học sâu (Deep Learning - DL) vào xử lý tín 
hiệu tại lớp vật lý vẫn được coi là lớp phức tạp nhất trong hệ thống TTVT. 
Bài báo có cấu trúc như sau: Mục 2 trình bày lý thuyết chung về học máy và 
học sâu, một số mô hình điển hình; Mục 3 trình bày các ứng dụng tiềm năng của 
học máy và học sâu trong các hệ thống TTVT; Cuối cùng Mục 4 rút ra các kết luận 
và gợi mở một số hướng nghiên cứu tiềm năng về ứng dụng học máy trong TTVT. 
2. HỌC MÁY VÀ CÁC MÔ HÌNH CỦA MẠNG HỌC SÂU 
 2.1. Học máy 
Học máy là một lĩnh vực của khoa học máy tính, một nhánh của trí tuệ nhân tạo, 
12
sử dụng các thuật toán để xây dựng các mô h
đầu
định tự động thông qua trải nghiệm tự học
hu
dụng một tập dữ liệu hữu hạn đầu v
hình x
hu
bộ lọc hoặc san bằng tín hiệu trong xử lý tín hiệu. Tuy nhi
học máy v
của bộ lọc đ
trọng số trong mô h
luy
sau:
learning
sát s
(còn g
giám
dụng tập dữ liệu gồm dữ liệu đầu v
vào đ
luy
m
(classification
không giám sát là 
reduction
pháp h
cao 
các thu
Neural Network
trợ (
m
[9]
mô hình nh
 vào thông qua quá trình hu
Hình 1 trình bày m
ấn luyện (
ấn luyện. Quá tr
ện. Dựa tr
ử dụng một tập dữ liệu gồm dữ liệu huấn luyện v
ện đ
ỗi nhi
nh
Các mô hình h
ạng Bayes (
. H
ử lý tín hiệu với các tham số đảm bảo dữ liệu đầu ra chính xác với dữ liệu 
học có giám sát (
ọi l
 sát s
ể thực hiện các t
ệ thống học cách xác định hoạt động dựa tr
ấ
ật toán xác định n
Support Vector Machine
ọc sâu l
) và h
à d
ử dụng tập dữ liệu chỉ gồm duy nhất dữ liệu đầu v
ược lựa ch
ệm vụ
) đ
t. Hi
B
training
à b
ữ liệu giám sát) để xây dựng mô h
ể thuận tiện trong việc l
ện tại, học tăng c
ư 
. T
ộ lọc l
ã đư
ên phương pháp hu
ọc 
 cụ thể
) và h
Bayesian Networks
à m
biểu diễn ở h
. T. Tâm
ợc xác định v
tăng cư
ọn để 
ọc máy phổ biến gồm mô h
 - ANN),
ột nhánh của học máy dựa tr
)
ình này t
à 
ình h
. 
ồi quy (
phân nhóm (
, T
Hình 1
ột mô h
 và quá trình x
ở chỗ thuật toán v
ương tác yêu c
Hai 
. X
ọc máy đ
supervised learning
ờng
đưa ra m
ứng dụng phổ biến nhất của học có giám sát l
ước đi tiếp theo để đạt đ
 mô hình 
ình 2. 
. Nam
ương t
 (
regression
ấn luyện nhằm thực hiện các dự đoán hoặc quyết 
. Mô hình h
ình h
à l
reinforce
clustering
ường chủ yếu
 - 
, “H
ự q
ập tr
ư
ấn luyện có thể phân học máy th
ột mô h
SVM), phân tích h
) và thu
ọc máy v
ọc máy điển h
ử lý dữ liệu. Tron ... thiết. 
Trong nghiên cứu [34] thiết kế thuật toán tách tín hiệu và đánh giá phẩm chất bộ 
tách sử dụng DL trong hệ thống thông tin tế bào mà không cần biết thông tin trạng 
thái kênh truyền. Dữ liệu phát được biểu diễn qua hàm one-hot, và quá trình tách 
tín hiệu phát từ tín hiệu thu được ở đầu vào máy thu trở thành nhiệm vụ phân nhóm 
(clustering) của học máy, lớp đầu ra sử dụng hàm kích hoạt softmax. Nghiên cứu 
đã tiến hành đo thử nghiệm để đánh giá hệ thống với các cấu hình, kiến trúc khác 
nhau. Kết quả cho thấy, các bộ tách sử dụng DL cải thiện phẩm chất so với các 
phương pháp trước đây mà không cần mô hình kênh truyền. Một số các nghiên cứu 
khác ứng dụng DL cho hai nhiệm vụ ước lượng kênh và tách tín hiệu [40, 41]. Tuy 
nhiên, các nghiên cứu này còn tách rời hai quá trình, do vậy, chưa đạt được hiệu 
quả cao. Nghiên cứu [35] đề xuất kết hợp ước lượng kênh tách tín hiệu cho hệ 
thống OFDM đa truy cập không trực giao (OFDM-NOMA) cho đường lên 
(uplink), đa người dùng có thể truy cập vào cùng một sóng mang tại cùng một thời 
điểm. Máy thu NOMA thiết kế dựa trên DL có thể tách bản tin người dùng trong 
một quá trình one-hot mà không cần thông tin ước lượng kênh thật hoàn hảo. Kết 
quả nghiên cứu đưa ra cho thấy, phương pháp dựa trên DL cho phẩm chất tốt hơn 
các phương pháp ước lượng kênh dựa vào tín hiệu lái (pilot) thông thường. 
Nhóm các nghiên cứu ứng dụng tách tín hiệu sử dụng DL cho một hệ thống 
phức tạp hơn và cũng là hệ thống tiềm năng trong cải thiện phẩm chất, cung cấp 
hiệu quả phổ tần cao, độ tin cậy và thông lượng tốt cho các hệ thống thông tin, đó 
là hệ thống MIMO. Các thuật toán để cải thiện phẩm chất của hệ thống này vấp 
phải một thách thức, thách thức về độ phức tạp tính toán, đặc biệt khi tăng số ăng-
ten thu và phát thì độ khó tính toán cũng tăng lên rất lớn. Công trình [36] đề xuất 
ứng dụng DL cho tách tín hiệu trong hệ thống massive MIMO. [37] thực hiện tách 
Nghiên c
Tạp chí Nghi
sóng đa ngư
cứu 
DeNet cho trư
trúc là
DeNet có đưa thông tin tr
hi
ZF, MMSE, FC, DeNet cho các trư
a. Ph
ZF và FC có ph
bộ tách MMSE nh
phát, c
phía thu. DeNet có đư
MIMO 10x10, DeNet đ
số lỗi bit đó ở 
MMSE đ
và 14dB
3.6
m
ứng dụng cho các nhiệm vụ khác nh
th
khi
m
số các nghi
tin di đ
ệu quả cho tr
Hình 4 so sánh ph
Ta th
. M
Trong các ph
ạng n
ống thông tin vô tuyến thủy âm 
ển l
ạng không dây
[38]
ẩm chất hệ thống khi sử dụng các 
ả 2 bộ tách đều cho đ
ột số các ứng dụng khác
ưu lư
ộng 
ứu khoa học công nghệ 
 đ
mạng FNN đ
ấy
ạt phẩm chất 
. 
ơ-ron DL trong các h
ên c
ời d
ề xuất hai mô h
bộ tách khác nhau
Hình 4.
, v
ợng mạng, định tuyến 
ên c
[45, 46]
ứu KH&
ờng hợp k
ư
bộ tách tín hiệu truyền thống v
ới c
ứu ứng dụng mạng n
ùng cho h
ờng hợp k
ùng s
ẩm chất xấu, đ
SNR 12dB
ần tr
 [41]
ư
 So sánh ph
ư bi
ư
. 
CN 
ợc sử dụng cho tr
ẩm chất một số bộ
ố ăng
ểu diễn tr
ờng BER hạ thấp nhanh h
ạt 
ớc, chúng tôi đ
, các 
quân s
ênh không thay đ
ạng thái k
ênh thay đ
BER 10
BER 5.10
ứng dụng cho định vị 
ệ thống MIMO
ình tách tín hi
.
-ten thu phát là 30x30 trên kênh pha đinh, các b
ường phẩm chất tốt h
ự, 
ẩm chất hệ thống MIMO sử dụng một số 
ường BER của DeNet tiến đến gần đ
. Tăng s
ệ thống thông tin vô tuyến. Ngo
Số Đặc san 
ờng hợp số ăng
ên hình 4a. T
[39]
[40]
ênh vào khi hu
ổi.
ã trình bày m
ư là l
ơ-
2 ở 
ố ăng
3 l
. DL đư
, tối 
ron cho các h
-NOMA s
ệu thu MIMO fully
ổi v
ường hợp k
tách tín hi
SNR 16dB
ần l
ựa chọn CDMA v
ưu vi
Viện Điện tử
b. Ph
à 
ượt tại tại các giá trị SNR bằng 16dB
ợc ứng dụng trong các hệ thống điều 
à kên
ứng dụng kỹ thuật DL.
ừ h
ơn so v
-ten thu phát lên 30x30, DeNet và 
ệc phân phối nguồn t
[42, 43]
ệu cho hệ thống MIMO, nh
-ten thu phát khác nhau.
ẩm chất hệ thống MIMO khi số 
ình 4b, khi t
ơn do thu đư
ột số các ứng dụng c
ệ thống thông tin vệ tinh, thông 
ử dụng mạng n
h thay
ênh không thay đ
ấn luyện tối 
ăng
, 9 -
ới MMSE. Với tr
, MMSE đ
, đ
 20
 đ
-ten thay đ
ảo tuyến tính 
20 
-
ổi. Bộ tách FC có cấu 
ợc độ lợi phân tập ở 
à OFDM tron
connected (FC) và 
ưu m
ăng s
ài ra, DL còn 
ư
ạt đ
ơ-ron. Nghiên 
ổi. Bộ tách 
ạng, bộ tách 
ổi.
ờng BER của
ố ăng
ư
ài nguyên c
ư
ợc c
ơ b
[44]
ộ tách 
-ten thu 
ờng hợp 
ùng t
ản của 
g các h
ư là 
đư
. M
19
ỷ 
ợc 
ệ 
ủa 
ột 
Kỹ thuật điện tử 
B. T. T. Tâm, T. X. Nam, “Học máy và khả năng ứng dụng  thông tin vô tuyến.” 20 
4. KẾT LUẬN 
Bài báo này đã trình bày tổng quan về học máy, các mô hình cơ bản của học sâu 
và khái quát các ứng dụng cơ bản nhất của mạng nơ-ron DL cho các hệ thống 
thông tin vô tuyến. DL được ứng dụng từ máy phát đến máy thu như một bộ 
autoencoder, và DL được ứng dụng như một khối chức năng trong hệ thống thông 
tin đó là các bộ san bằng và giải mã kênh, trải phổ, đa truy cập, tách tín hiệu thu, 
nhận dạng tín hiệu, và một số các ứng dụng khác. Các nghiên cứu cho thấy, ứng 
dụng mạng nơ-ron cho các hệ thống TTVT có tiềm năng rất lớn và sẽ nhanh chóng 
thay thế phương pháp xử lý tín hiệu truyền thống trong tương lại gần. Tuy nhiên, 
để hoàn chỉnh về công nghệ và đưa vào ứng dụng thực tiễn cần tiếp tục đầu tư 
nghiên cứu hơn nữa về hướng này, đặc biệt là các ứng dụng DL cho các hệ thống 
TTVT quân sự nhằm tăng khả năng bảo mật, chống nhiễu, chống thu chặn tín hiệu. 
Ngoài ra, ứng dụng học máy trong các hệ thống sô-na, cảnh giới ngầm cũng là các 
đề tài nghiên cứu có ý nghĩa khoa học và thực tiễn. 
TÀI LIỆU THAM KHẢO 
[1]. S. J. Nawaz et al., "Quantum Machine Learning for 6G Communication 
Networks: State-of-the-Art and Vision for the Future," IEEE Access, vol. 7 
(2019), pp. 46317-46350. 
[2]. J. Jagannath et al., "Machine learning for wireless communications in the 
Internet of Things: A comprehensive survey," Ad Hoc Networks, vol. 93 
(2019), p. 101913. 
[3]. A. Ferdowsi et al., "Deep Learning for Reliable Mobile Edge Analytics in 
Intelligent Transportation Systems: An Overview," IEEE Vehicular 
Technology Magazine, vol. 14 (2019), no. 1, pp. 62-70. 
[4]. Y. Jeon et al., "Blind detection for MIMO systems with low-resolution ADCs 
using supervised learning," in 2017 IEEE International Conference on 
Communications (ICC) (2017), pp. 1-6. 
[5]. E. Nachmani et al., "Deep Learning Methods for Improved Decoding of 
Linear Codes," IEEE Journal of Selected Topics in Signal Processing, vol. 12 
(2018), no. 1, pp. 119-131. 
[6]. W. Xu et al., "Improved polar decoder based on deep learning," in 2017 
IEEE International Workshop on Signal Processing Systems (SiPS) (2017), 
pp. 1-6 
[7]. F. Ullah et al., "Future of Big Data and Deep Learning for Wireless Body 
Area Networks," in Deep Learning: Convergence to Big Data Analytics, M. 
Khan, B. Jan, and H. Farman, Eds. Singapore: Springer Singapore, 2019, pp. 
53-77. 
[8]. https://en.wikipedia.org/wiki/Machine_learning#cite_note-1. 
[9]. https://machinelearningmastery.com/a-tour-of-machine-learning-algorithms/. 
[10]. Y. B. Ian Goodfellow et al., “Deep Learning”, The MIT Press (2016). 
[11]. W. S. McCulloch et al., "A logical calculus of the ideas immanent in nervous 
activity," The bulletin of mathematical biophysics, vol. 5 (1943), no. 4, pp. 
115-133. 
Nghiên cứu khoa học công nghệ 
Tạp chí Nghiên cứu KH&CN quân sự, Số Đặc san Viện Điện tử, 9 - 2020 21
[12]. P. Kim, Matlab Deep learning with Machine Learning, Neeural Networks 
and Artificial Intelligience. Apress (2017). 
[13]. T. O’Shea et al., "An Introduction to Deep Learning for the Physical Layer," 
IEEE Transactions on Cognitive Communications and Networking, vol. 3 
(2017), no. 4, pp. 563-575. 
[14]. D. E. Rumelhart et al., "Learning representations by back-propagating 
errors," Nature, vol. 323 (1986), no. 6088, pp. 533-536. 
[15]. Y. LeCun, "Generalization and network design strategies," Connectionism in 
perspective Elsevier, Zurich, Switzerland (1989), pp. 143–155. 
[16]. T. O'Shea et al., “Convolutional Radio Modulation Recognition Networks,” 
Springer International Publishing, Cham (2016), pp. 213-226. 
[17]. H. Ye et al., "Initial Results on Deep Learning for Joint Channel 
Equalization and Decoding," IEEE 86th Vehicular Technology Conference 
(2017), pp.1-5. 
[18]. Y. Xu et al., "A Deep Learning Method Based on Convolutional Neural 
Network for Automatic Modulation Classification of Wireless Signals," 
MLICM (2017). 
[19]. T. J. O. Shea et al., "Learning to communicate: Channel auto-encoders, 
domain specific regularizers, and attention," IEEE International Symposium 
on Signal Processing and Information Technology (2016), pp. 223-228. 
[20]. T. O'Shea et al., "Deep Learning Based MIMO Communications," arXiv 
preprint arXiv:1707.07980 (2017). 
[21]. S. M. Alamouti, "A simple transmit diversity technique for wireless 
communications," IEEE Journal on Selected Areas in Communications, vol. 
16 (1998), no. 8, pp. 1451-1458. 
[22]. H. Sung-Hyun et al., "Channel equalization for severe intersymbol 
interference and nonlinearity with a radial basis function neural network," 
International Joint Conference on Neural Networks. Proceedings 1999, vol. 6 
(1999), pp. 3992-3995. 
[23]. A. Caciularu et al., “Blind Channel Equalization Using Variational 
Autoencoders,” 2018 IEEE International Conference on Communications 
Workshops (2018), pp. 1-6. 
[24]. T. Gruber et al., "On deep learning-based channel decoding," 51st Annual 
Conference on Information Sciences and Systems (2017), pp. 1-6. 
[25]. J. Lin et al., “A Novel Deep Neural Network Based Approach for Sparse 
Code Multiple Access,” Neurocomputing, vol. 382 (2020), pp. 52-63. 
[26]. N. Taşpınar et al., "Neural Network Based Receiver for Multiuser Detection 
in MC-CDMA Systems," Wireless Personal Communications, vol. 68 (2013). 
[27]. H. A. Hassan et al., "Performance comparison of linear multiuser detectors and 
neural network detector for DS/CDMA systems in AWGN," Tenth International 
Conference on Computer Engineering & Systems (2015), pp. 307-313. 
[28]. B. Geevarghese et al., “Pre-processed back propagation neural networks for 
CDMA interference cancellation,” 2013 IEEE International Conference ON 
Emerging Trends in Computing, Communication and Nanotechnology, 
Tirunelveli (2013), pp. 100-103. 
Kỹ thuật điện tử 
B. T. T. Tâm, T. X. Nam, “Học máy và khả năng ứng dụng  thông tin vô tuyến.” 22 
[29]. M. H. Shah et al., "Low-complexity deep learning and RBFN architectures 
for modulation classification of space-time block-code (STBC)-MIMO 
systems," Digital Signal Processing, vol. 99 (2020) 
[30]. B. Kim et al., “Deep neural network-based automatic modulation 
classification technique,” 2016 International Conference on Information and 
Communication Technology Convergence, Jeju(2016), pp. 579-582. 
[31]. M. Stojanovic et al., "Underwater acoustic communication channels: 
Propagation models and statistical characterization," IEEE Communications 
Magazine, vol. 47 (2009), no. 1, pp. 84-89. 
[32]. N. Farsad et al., "A Comprehensive Survey of Recent Advancements in 
Molecular Communication," IEEE Communications Surveys & Tutorials, 
vol. 18 (2016), no. 3, pp. 1887-1919. 
[33]. S. Hiyama et al., "Molecular Communication," 2005 NSTI Nanotechnology 
Conference and Trade Show, vol. 3 (2008). 
[34]. N. Farsad et al., "Detection Algorithms for Communication Systems Using 
Deep Learning," arXiv preprint arXiv:1705.08044 (2017). 
[35]. Narengerile et al., "Deep Learning for Signal Detection in Non-Orthogonal 
Multiple Access Wireless Systems," 2019 UK/ China Emerging Technologies 
(2019), pp. 1-4. 
[36]. H. He et al., "Deep Learning-Based Channel Estimation for Beamspace 
mmWave Massive MIMO Systems," IEEE Wireless Communications Letters, 
vol. 7 (2018), no. 5, pp. 852-855. 
[37]. C. Lin et al., "A Deep Learning Approach for MIMO-NOMA Downlink 
Signal Detection," Sensors (Basel, Switzerland), vol. 19 (2019), no. 11, p. 
2526. 
[38]. N. Samuel et al., "Learning to Detect," IEEE Transactions on Signal 
Processing, vol. 67 (2019), no. 10, pp. 2554-2564. 
[39]. Y. Kim et al., "Selection of CDMA and OFDM using machine learning in 
underwater wireless networks," ICT Express, vol. 5 (2019). 
[40]. Z. M. Fadlullah et al., "State-of-the-Art Deep Learning: Evolving Machine 
Intelligence Toward Tomorrow’s Intelligent Network Traffic Control 
Systems," IEEE Communications Surveys & Tutorials, vol. 19 (2017), no. 4, 
pp. 2432-2455. 
[41]. S. K. Tayyaba et al., "5G Vehicular Network Resource Management for 
Improving Radio Access Through Machine Learning," IEEE Access, vol. 8 
(2020), pp. 6792-6800. 
[42]. J. Li et al., "Mobile Location in MIMO Communication Systems by Using 
Learning Machine," Canadian Conference on Electrical and Computer 
Engineering (2007), pp. 1066-1069. 
[43]. P. Sthapit et al., "Bluetooth Based Indoor Positioning Using Machine 
Learning Algorithms," in 2018 IEEE International Conference on Consumer 
Electronics - Asia, 2018, pp. 206-212. 
[44]. M. Borgerding et al., "Onsager-corrected deep learning for sparse linear 
inverse problems," IEEE Global Conference on Signal and Information 
Processing (2016), pp. 227-231. 
Nghiên cứu khoa học công nghệ 
Tạp chí Nghiên cứu KH&CN quân sự, Số Đặc san Viện Điện tử, 9 - 2020 23
[45]. T. Liu et al.,. Sun, "Fault Prediction for Satellite Communication Equipment 
Based on Deep Neural Network," International Conference on Virtual Reality 
and Intelligent Systems (2018), pp. 176-178. 
[46]. M. Hikosaka et al., "Proposal of polarization state prediction using 
quaternion neural networks for fading channel prediction in mobile 
communications," International Joint Conference on Neural Networks (2016), 
pp. 4105-4111. 
ABSTRACT 
AN OVERVIEW ON APPLICATIONS OF MACHINE LEARNING 
IN WIRELESS COMMUNICATION SYSTEMS 
Together with the development of The Fourth Industrial Revolution, 
wireless systems are also being developed to meet a variety of requirements 
for performance improvement, higher transmission rate and reliability, and 
secure communications under severe propagation environments. Recent 
advancements in signal processing techniques have motivated the 
applications of artificial intelligence (AI) in wireless systems in order to 
provide the ability of automatic learning, identification and processing for 
adaptive transmission and cognitive radios. This paper presents an 
overview on principles and recent achievements in application of machine 
learning in wireless communication systems, and outlines some potential 
open research directions. 
Keywords: Wireless system; Machine learning; Deep learning. 
Nhận bài ngày 02 tháng 3 năm 2020 
Hoàn thiện ngày 04 tháng 8 năm 2020 
Chấp nhận đăng ngày 28 tháng 8 năm 2020 
Địa chỉ: 1Viện Điện tử, Viện Khoa học và Công nghệ quân sự; 
 2Học viện Kỹ thuật quân sự. 
 *Email: thanhtambui85@gmail.com.