BÀI TẬP TỔNG HỢP
Mục tiêu
Sau khi hoàn tất bài học này bạn có thể:
- Hiểu rõ hơn về nội dung môn học.
- Vận dụng nội dung môn học để giải quyết một số bài tập tổng hợp.
Bài 1
Xét một mô hình chẩn đoán bệnh từ các triệu chứng: A, B và C; để chẩn đoán 1 trong 4 bệnh: 1, 2, 3 và 4 với ma trận chẩn đoán (hay ma trận truyền tin).
Yêu cầu:
Câu 1: Vẽ sơ đồ mô tả mô hình chẩn đoán bệnh trên và diễn giải các ý nghĩa của sơ đồ.
Câu 2: Nếu phân phối của Triệu chứng có dạng:
Tính các lượng sau :
Lượng ngẫu nhiên (Entropy) của Triệu chứng .
Lượng ngẫu nhiên của Bệnh.
Lượng ngẫu nhiên của Bệnh khi biết Triệu chứng.
Lượng chẩn đoán đúng.(Lượng thông tin biết về Bệnh thông qua Triệu chứng) và tỷ lệ chẩn đoán đúng là bao nhiêu phần trăm.
Câu 3: Bây giờ người ta sử dụng 2 bit để mã thông tin về Triệu chứng (có 1 triệu chứng dự trữ) và 5 bit để mã các triệu chứng khi chẩn đoán bệnh trực tuyến. Mô tả các đoạn của dãy 5 bit trong phương pháp kiểm tra chẵn lẻ.
Câu 4: Nếu sử dụng ma trận kiểm tra chẵn lẻ dạng:
Tính các từ mã.
Xây dựng Bộ sửa lỗi 1 bit dùng cho tự động sửa lỗi tối ưu trong quá trình chẩn đoán trực tuyến. Cho một ví dụ.
Bài 2
Xét một kênh truyền tin đặc biệt dạng : Truyền X -> Nhận Y.
Truyền một giá trị của X có thể nhận được nhiều giá trị khác nhau của Y với các xác suất khác nhau. Bảng xác suất truyền X và nhận các Y khác nhau được cho dưới đây:
Yêu cầu:
Câu 1: Vẽ sơ đồ mô tả kênh truyền tin trên và diễn giải các ý nghĩa của sơ đồ.
Câu 2: Nếu phân phối của X có dạng :
tính thông lượng về X truyền trên kênh.
Câu 3: Phân phối của X cần có dạng như thế nào để thông lượng truyền trên kênh là lớn nhất. Tính dung lượng kênh truyền.
Câu 4: Bây giờ người ta sử dụng 2 bit để mã thông tin về X và 4 bit để mã các giá trị truyền trên kênh. Mô tả các đoạn của dãy 4 bit trong phương pháp kiểm tra chẵn lẻ.
Câu 5: Nếu sử dụng ma trận kiểm tra chẵn lẻ dạng:
Tính các từ mã.
Xây dựng Bộ sửa lỗi dùng cho tự động sửa lỗi tối ưu trong quá trình truyền tin. Cho một ví dụ.
Bài 3
Người ta cần đánh giá kênh truyền tin và chuẩn bị thực hiện truyền một loại tín hiệu đặc biệt: X = {x0, x1, x2, x3}
Công việc đầu tiên là phải khảo sát kênh truyền. Kết quả khảo sát cho thấy:
Kênh có thể truyền nhận được 8 giá trị khác nhau, để có khả năng phát hiện lỗi hoặc điều chỉnh lỗi. Ma trận truyền tin có dạng:
Yêu cầu:
Câu 1: Vẽ sơ đồ mô tả kênh truyền tin trên và diễn giải các ý nghĩa của sơ đồ. Nếu phân phối của X có dạng :
tính thông lượng về X truyền trên kênh.
Câu 2: Phân lớp các giá trị của Y về các lớp B0, B1, B2, và B3 dùng để giải mã tối ưu Y tốt nhất về các giá trị tương ứng của X.
Câu 3 : Bây giờ người ta sử dụng 2 bit để mã thông tin về X và 4 bit để mã các giá trị truyền trên kênh. Mô tả các đoạn của dãy 4 bit trong phương pháp kiểm tra chẵn lẻ.
Câu 4: Nếu sử dụng ma trận kiểm tra chẵn lẻ dạng:
Tính các từ mã.
Xây dựng Bộ sửa lỗi dùng cho tự động sửa lỗi tối ưu trong quá trình truyền tin. Cho một ví dụ.
Bài 4
Xét một mô hình chẩn đoán bệnh từ các triệu chứng: A, B và C; để chẩn đoán 1 trong 4 bệnh: 1, 2, 3 và 4 với ma trận chẩn đoán (hay ma trận truyền tin)
Yêu cầu:
Câu 1: Giả sử người ta biết thêm 3 triệu chứng gây bệnh khác đó là : D, E và F và muốn ghi lại các triệu chứng này thông qua bảng ký hiệu A = {+, - }.
Hãy kiểm tra tính tách được của bảng mã sau :
Câu 2: Nếu các triệu chứng ở câu 1 có phân phối :
Giử sử có một người bệnh với 1 trong 5 triệu chứng trên đến khám bệnh và bác sĩ sẽ hỏi bệnh với nguyên tắc, sao cho người bệnh chỉ trả lời bằng 2 câu : Đúng hoặc Sai.
Tìm phương pháp hỏi bệnh với số câu hỏi trung bình ít nhất.
Tính số câu hỏi trung bình.
Tính lượng ngẫu nhiên của Triệu chứng.
Nhận xét gì về số câu hỏi trung bình và lượng ngẫu nhiên của triệu chứng.
Câu 3: Bây giờ sử dụng mô hình 3 triệu chứng {A, B, C} và 4 bệnh. Vẽ sơ đồ mô tả mô hình chẩn đoán bệnh và diễn giải các ý nghĩa của sơ đồ.
Câu 4: Từ kết quả câu 3, người ta sử dụng 2 bit để mã thông tin về Triệu chứng (có 1 triệu chứng dự trữ) và 5 bit để mã các triệu chứng khi chẩn đoán bệnh trực tuyến. Mô tả các đoạn của dãy 5 bit trong phương pháp kiểm tra chẵn lẻ.
Câu 5: Nếu sử dụng ma trận kiểm tra chẵn lẻ dạng:
Tính các từ mã.
- giáo trình lý thuyết thông tin
- giới thiệu tổng quan giáo trình lý thuyết thông tin
- yêu cầu
- nội dung cốt lõi
- kiến thức tiên quyết
- phương pháp học tập
- giới thiệu
- mô hình lý thuyết thông tin theo quan điểm Shannon
- định lý cơ sở của kĩ thuật truyền tin
- khái niệm về dung lượng kênh truyền
- độ đo lượng tin
- các tính chất của entropy
- entropy của nhiều biến
- minh họa các entropy
- ĐO LƯỢNG TIN (MESURE OF INFORMATION)
- SINH MÃ TÁCH ĐƯỢC (Decypherable Coding)
- quan hệ giữa mã tách được và độ dài mã
- tính tối ưu của độ dài mã
- kênh truyền rời rạc không nhớ
- các dạng kênh truyền
- lược đồ giải mã
- nguyên lý khoảng cách nhỏ nhất hamming
- Bổ đề về tự sửa lỗi và cận hamming
- mã kiểm tra chẵn lẻ
- nhóm cộng tính và bộ từ mã chẵn lẻ
- lược đồ sửa lỗi tối ưu
- mã hamming
- thanh ghi lùi tưng bước
- mã xoay vòng
- đa thức đặc trưng của thanh ghi
- phương pháp sinh mã xoay vòng
- bài tập tổng hợp