Tài liệu

ĐO LƯỢNG TIN (MESURE OF INFORMATION)

Science and Technology

ĐO LƯỢNG TIN (MESURE OF INFORMATION)

Mục tiêu

Sau khi hoàn tất bài học này bạn có thể:

  • Biết bài toán tính lượng tin,
  • Hiểu định nghĩa lượng tin,
  • Biết cách tính lượng tin,
  • Có thể vận dụng để tính lượng tin cho các bài toán tương tự.

Đặt vấn đề bài toán

Ta xét ví dụ về một người tổ chức trò chơi may rủi khách quan với việc tung một đồng tiền “có đầu hình – không có đầu hình”. Nếu người chơi chọn mặt không có đầu hình thì thắng khi kết quả tung đồng tiền là không có đầu hình, nguợc lại thì thua. Tuy nhiên người tổ chức chơi có thể “ăn gian” bằng cách sử dụng 2 đồng tiền “Thật- Giả” khác nhau sau:

+ Đồng tiền loại 1 (hay đồng tiền thật): đồng chất có 1 mặt có đầu hình.

+ Đồng tiền loại 2 (hay đồng tiền giả ): đồng chất, mỗi mặt đều có 1 đầu hình.

Mặc dù người tổ chơi có thể “ăn gian” nhưng quá trình trao đổi 2 đồng tiền cho nhau là ngẫu nhiêu, vậy liệu người tổ chức chơi có thể “ăn gian” hoàn toàn được không? Ta thử xét một trường hợp sau: nếu người chơi lấy ngẫu nhiên 1 đồng tiền và sau đó thực hiện việc tung đồng tiền lấy được 2 lần. Qua 2 lần tung đồng tiền, ta đếm được số đầu hình xuất hiện. Dựa vào số đầu hình xuất hiện, hãy tính lượng tin về loại đồng tiền lấy được là bao nhiêu?

Xác định các phân phối của bài toán

Đặt biến ngẫu nhiên X là loại đồng tiền, khi đó phân phối của X có dạng :

Đặt biến ngẫu nhiên Y là số đầu hình đếm được sau 2 lần tung. Khi đó ta có thể xác định được phân phối của Y trong 2 trường hợp sau.

Trường hợp 1: Phân phối của Y khi biết đồng tiền là thật (X=1) có dạng:

Trường hợp 2: Phân phối của Y khi biết đồng tiền là giả (X=2) có dạng:

Ta có thể tính dễ dàng phân phối của Y như sau:

Nhận xét dựa theo entropy

Từ các bảng phân phối trên, ta có:

Entropy của Y:

H(Y) = H(0.125, 0.25, 0.625) = 1.3 (bit)

Entropy của Y khi biết X

H(Y/X=1) = H(0.25, 0.5 , 0.25)= 1.5 (bit)

H(Y/X=2)= H(0, 0, 1)= 0

H(Y/X)= p(X=1)H(Y/X=1)+ p(X=2)H(Y/X=2) = 0.75 (bit)

Vậy, H(Y) > H(Y/X)

Định nghĩa lượng tin

Từ nhận xét về quan hệ giữa các entropy ở trên, ta có thể định nghĩa lượng tin như sau:

Định nghĩa: Lượng tin (hay thông lượng) của X khi Y xảy ra là lượng chênh lệch giữa lượng không chắc chắn của X và lượng không chắc chắn của X khi Y xảy ra có quan hệ với X.

Ta có thể hiểu khái niệm này như sau: X và Y là 2 biến ngẫu nhiên nên chúng có 2 lượng tin không chắc chắn. Nếu X và Y độc lập, thì X xảy ra không ảnh hưởng tới Y nên ta vẫn không biết gì thêm về X và X giữ nguyên lượng không chắc chắn của nó. Trong trường hợp này lượng tin về X khi Y xảy ra là bằng 0. Nếu Y có tương quan với X thì khi Y xảy ra ta biết hoàn toàn về Y và một phần thông tin về X. Phần thông tin đó chính là lượng tin đã biết về X nhưng vẫn chưa biết hết về X. Bài toán ở đây là tính lượng tin đã biết về X khi Y xảy ra.

Ký hiệu: I(X/Y) = H(X)-H(X/Y) là lượng tin đã biết về X khi Y đã xảy ra.

Chú ý: ta luôn có I(X/Y) = I(Y/X)

Ví dụ: xét lại ví dụ trên, ta có lượng tin về X khi biết Y là

I(X/Y)= I(Y/X)= H(Y) – H(Y/X) = 1.3 – 0.75=0.55 (bit).

Bài tập

Thực hiện một phép thử con xúc sắc đồng chất đồng thời với một đồng tiền cũng đồng chất. Trong đó, con xúc sắc có các mặt điểm từ 1 đến 6, đồng tiền một mặt có đầu hình và mặt kia không có đầu hình. Trước tiên thử con xúc sắc, nếu số điểm <_ 4 thì tung đồng tiền một lần, ngược lại thì tung đồng tiền hai lần. Tính lượng tin về số điểm con xúc sắc khi biết thông tin về số đầu hình đếm được.

Người ta thực hiện một khảo sát trên các sinh viên đại học về mối quan hệ giữa khả năng học tập với sở hữu phương tiện đi lại và tinh thần ái hữu. Kết quả cho thấy:

Trong tổng số sinh viên có 3/4 sinh viên hoàn thành chương trình học và 1/4 không hoàn thành. Trong số sinh viên hoàn thành chương trình học, 10% có xe con. Ngược lại, trong số sinh viên không hoàn thành chương trình học có tới 50% có xe con.

Tất cả sinh viên có xe con đều tham gia hội ái hữu sinh viên. Trong số sinh viên không có xe con (kể cả hoàn thành hay không hoàn thành khóa học) thì 40% sinh viên tham gia hội ái hữu sinh viên.

Tìm thông tin về trạng thái học tập của sinh viên khi biết điều kiện về phương tiện đi lại của họ.

Tìm thông tin về tình trạng học tập của sinh viên khi biết tinh thần ái hữu của họ.

Những người dân của một làng được chia làm 2 nhóm A và B. Một nửa nhóm A chuyên nói thật, 3/10 nói dối và 2/10 từ trối trả lời. Trong nhóm B: 3/10 nói thật, 1/2 nói dối và 2/10 từ trối trả lời. Giả sử p là xác suất chọn 1 người thuộc nhóm A và I(p) = I(Y/X) là lượng tin về người nói thật sau khi đã chọn nhóm, tính I(p), tìm p* sao I(p*) = Max(I(p) và tính I(p*).

Đánh giá:
0 dựa trên 0 đánh giá

Tuyển tập sử dụng module này

Nội dung cùng tác giả
 
Nội dung tương tự