Để thu thập một thông tin nào đó của một tổng thể, trong nhiều trường hợp, do bị hạn chế về nhân lực, tài chính và thời gian, hoặc do các lý do khác, ta không thể khảo sát toàn bộ các phần tử của tổng thể. Vì thế chúng ta thường lấy ra một mẫu, khảo sát, đo lường, tính toán trên mẫu này, sau đó suy rộng ra cho tổng thể. Quá trình ấy được gọi là ước lượng.

Tuy nhiên do sự biến động của tổng thể, do có sai số trong quá trình thu thập thông tin nên chúng ta cần có những phương pháp có hiệu quả để sự ước lượng này có sự chính xác và độ tin cậy nhất định.

Đối với một tổng thể, thông số cần ước lượng có thể là trị trung bình, phương sai, độ lệch chuẩn, tỷ lệ, trung vị, mốt, ... Còn đối với hai hay nhiều tổng thể khác nhau ta có thể ước lượng hiệu số của 2 trung bình, hiệu số của 2 tỷ lệ, tỷ số của 2 phương sai, tỷ số của 2 độ lệch chuẩn, ... Ta cũng có thể ước lượng một số tính chất khác của tổng thể như tính tương thích với phân bố chuẩn của dữ liệu, sự độc lập của các biến khảo sát, ...

Tuy vậy thông dụng nhất là ước lượng các thông số trung bình, tỷ lệ, độ lệch chuẩn (hay phương sai).

Từ một tổng thể, ta có thể thu được nhiều mẫu khác nhau, nên các giá trị thu thập được của đại lượng cần khảo sát cũng thường là không giống nhau. Vì vậy ta xem đại lượng này là một biến ngẫu nhiên, và biến này có một phân phối nào đó.

Ta có hai dạng ước lượng chính là ước lượng điểm và ước lượng khoảng. Trong dạng thứ nhất, ta tìm một giá trị để ước lượng cho thông số khảo sát; còn trong dạng thứ hai, ta tìm một khoảng giá trị. Tùy theo điều kiện cụ thể của vấn đề mà ta sử dụng một trong hai (hoặc cả hai) dạng ước lượng.

Xét một thông số `alpha` của tổng thể cần phải được ước lượng. Sau khi tính toán trên mẫu lấy từ tổng thể này ta thu được số thống kê tương ứng có giá trị là `a`. Vì ta có thể lấy nhiều mẫu khác nhau nên ta có thể thu được nhiều giá trị `a` khác nhau. Ước lượng được gọi là không chệch khi :

`bar a=alpha`(1)

Nếu điều kiện này không được đáp ứng, ta có ước lượng chệch.

Độ lệch chuẩn của thông số ước lượng được gọi là sai số chuẩn của thông số đó.