THUẬT TOÁN [ P_5 ]

1.5. THUẬT TOÁN ĐỆ QUY.
1.5.1. Khái niệm đệ quy:
Đôi khi chúng ta có thể quy việc giải bài toán với tập các dữ liệu đầu vào xác định về việc giải cùng bài toán đó nhưng với các giá trị đầu vào nhỏ hơn. Ch ẳng hạn, bài toán tìm UCLN c ủa hai số a, b với a > b có thể rút gọn về bài toán tìm ƯCLN của hai số nhỏ hơn, a mod b và b. Khi việc rút gọn như v ậy thực hiện được thì lời giải bài toán ban đầu có thể tìm được bằng một dãy các phép r út gọn cho tới những trường hợp mà ta có thể dễ dàng nhận được lời giải của bài toán. Ta sẽ thấy rằng các thuật toán rút gọn liên tiếp b ài toán ban đầu tới b ài toán có dữ liệu đầu vào nhỏ hơn, được áp dụng trong một lớp rất rộng các bài toán.
Định nghĩa: Một thuật toán được gọi là đệ quy nếu nó giải bài toán bằng cách rút gọn liên tiếp bài toán ban đầu tới bài toán cũng nh ư vậy nhưng có dữ liệu đầu vào nhỏ hơn.
Thí dụ 10: Tìm thuật toán đệ quy tính giá trị an với a là số thực khác không và n là số nguyên không âm.
Ta xây dựng thuật toán đệ quy nhờ định nghĩa đệ quy của an, đó là an+1=a.an với n>0 và khi n=0 thì a0=1. Vậy để tính an ta quy về các trường hợp có số mũ n nhỏ hơn, cho tới khi n=0.

procedure power (a: số thực khác không; n: số nguyên không âm)
if n = 0 then power(a,n) := 1
else power(a,n) := a * power(a,n-1)

Thí dụ 11: Tìm thuật toán đệ quy tính UCLN của hai số nguyên a,b không âm và a > b.

procedure UCLN (a,b: các số nguy ên không âm, a > b)
if b = 0 then UCLN (a,b) := a
else UCLN (a,b) := UCLN (a mod b, b)

Thí dụ 12: Hãy biểu diễn thuật toán tìm kiếm tuyến tính như một thủ tục đệ quy.
Để tìm x trong dãy tìm kiếm a1,a2,...,an trong bước thứ i của thuật toán ta so sánhx với ai. Nếu x bằng ai thì i là vị trí cần tìm, ngược lại thì việc tìm kiế m được quy về dãy có số phần tử ít hơn, cụ thể là dãy ai+1,...,an. Thuật toán tìm kiếm có dạng thủ tục đệ quy như sau.
Cho search (i,j,x) là thủ tục t ìm số x trong dãy ai, ai+1,..., aj. Dữ liệu đầu vào là bộ ba (1,n,x). Thủ tục sẽ dừng khi số hạng đầu tiê n của dãy còn lại là x hoặc là khi dãy còn lại chỉ có một phần tử khác x. Nếu x không là số hạng đầu tiên và còn có các số hạng khác thì lại áp dụng thủ tục này, nhưng dãy tìm kiếm ít hơn một phần tử nhận được bằng cách xóa đi phần tử đầu tiên của dãy tìm kiếm ở bước vừa qua.

procedure search (i,j,x)
if ai= x then loacation := i
else if i = j then loacation := 0
else search (i+1,j,x)

Thí dụ 13: Hãy xây dựng phi ên b ản đệ quy của thuật toán tìm kiếm nhị phân.
Giả sử ta muốn định vị x trong dãy a1, a2, ..., an bằng tìm ki ếm nhị phân. Trước tiên ta so sánh x với số hạng giữa a[(n+1)/2]. Nếu chúng bằng nhau thì thu ật toán kết thúc, nếu không ta chuyển sang tìm kiếm trong dãy ngắn hơn, nửa đầu của dãy nếu x nhỏ hơn giá trị giữa của của dãy xuất phát, nửa sau nếu ngược lại. Như vậy ta rút gọn việc giải bài toán tìm kiếm về việc giải cũng bài toán đó nhưng trong dãy tìm kiếm có độ dài lần lượt giảm đi một nửa.

procedure binary search (x,i,j)
m := [(i+j)/2]
if x = am
then loacation := m
else if (x < am and i < m) then binary search (x,i,m-1)
else if (x > am and j > m) then binary search (x,m+1,j)
else loacation := 0

1.5.2. Đệ quy và lặp:
Thí dụ 14. Thủ tục đệ quy sau đây cho ta giá trị của n! với n là số nguyên dương.

procedure factorial (n: positive integer)
if n = 1 then factorial(n) := 1
else factorial(n) := n * factorial(n-1)

Có cách khác tính hàm giai thừa của một số nguyên từ định nghĩa đệ quy của nó. Thay cho việc lần lượt rút gọn việc tính toán cho các giá trị nhỏ hơn, ta có thể xuất phát từ giá trị của hàm t ại 1và lần lượt áp dụng định nghĩa đệ quy để tìm giá trị của h àm tại các số nguyên lớn dần. Đó là thủ tục lặp.

procedure iterative factorial (n: positive integer)
x := 1
for i := 1 to n
x := i * x
{x là n!}

Thông thường để tính một dãy các giá trị đư ợc định nghĩa bằng đệ quy, nếu dùng phương pháp lặp thì số các phép tính sẽ ít hơn là dùng thuật toán đệ quy (trừ khi dùng các máy đệ quy chuyên dụng).  Ta sẽ xem xét bài toán tính số hạng thứ n của dãy Fibonacci.

procedure fibonacci (n: nguyên không âm)
if n = 0 the fibonacci(n) := 0
else if n = 1 then fibonacci(n) := 1
else fibonacci(n) := fibonacci(n - 1) + fibonacci(n - 2)

Theo thuật toán này, để tìm fn ta biểu diễn fn= fn-1+ fn-2. Sau đó thay thế cả hai số này bằng tổng của hai số Fibonacci bậc thấp hơn, cứ tiếp tục như vậy cho tới khi f0 và f1 xuất hiện thì được thay bằng các giá trị của chúng theo định nghĩa. Do đó để tính fn cần fn+1-1 phép cộng.
Bây giờ ta sẽ tính các phép toán cần dùng để tính fn khi s ử dụng phương pháp lặp. Thủ tục này khởi tạo x là f0 = 0 và y là f1= 1. Khi vòng lặp được duyệt qua tổng của x và y được gán cho biến phụ z. Sau đó x được gán giá trị của y và y được gán giá trị của z. Vậy sau khi đi qua vòng lặp lần 1, ta có x= f1 và y = f0 + f1 = f2. Khi qua vòng lặp lần n-1 thì x = fn-1. Như v ậy chỉ có n – 1 phép cộng được dùng để tìm fn khi n > 1.

procedure Iterative fibonacci (n: nguyên không âm)

if n = 0 then y := 0
else
begin

x := 0 ; y := 1
for i := 1 to n - 1
begin

z := x + y
x := y ; y := z

end

end

{y là số Fibonacci thứ n}

Ta đã chỉ ra rằng số các phép toán dùng trong thuật toán đệ quy nhiều hơn khi dùng phương pháp lặp. Tuy nhiên đôi khi người ta vẫn thích dùng thủ tục đệ quy hơn ngay cả khi nó tỏ ra kém hiệu quả so với thủ tục lặp. Đặc biệt, có nh ững bài toán chỉ có thể giải bằng thủ tục đệ quy mà không th ể giải bằng thủ tục lặp.

THUẬT TOÁN [ P_4 ]

1.4. SỐ NGUYÊN VÀ THUẬT TOÁN.
1.4.1. Thuật toán Euclide:
Phương pháp tính ước chung lớn nhất của hai số bằng cách dùng phân tích các số nguyên đó ra thừa số nguyên tố là không hiệu quả. Lý do l à ở chỗ thời gian phải tiêu tốn cho sự phân tích đó. Dưới đây là phương pháp hiệu quả hơn để tìm ước số chung lớn nhất, gọi là thuật toán Euclide. Thuật toán này đã biết từ thời cổ đại. Nó mang tên nhà toán học cổ Hy lạp Euclide, ng ười đã mô tả thuật toán này trong cuốn sách “Những yếu tố” nổi tiếng của ông. Thuật toán Euclide dựa vào 2 mệnh đề sau đây.

Mệnh đề 1 (Thuật toán chia): Cho a và b là hai số nguy ên và b 0. Khi đó tồn tại duy nhất hai số nguyên q và r sao cho a = bq+r, 0  r < |b|.
Trong đẳng thức trên, b được gọi là số chia, a được gọi là số bị chia, q được gọi là thương s ố và r được gọi là số dư.
Khi b là nguyên dương, ta ký hiệu số dư r trong phép chia a cho b là a mod b. Mệnh đề 2: Cho a = bq+r, trong đó a, b, q, r là các số nguyên. Khi đó
UCLN(a,b) = UCLN(b,r).(Ở đây UCLN(a,b) để chỉ ước chung lớn nhất của a và b.)
Giả sử a và b là hai s ố nguy ên d ương với a  b. Đặt r0= a và r1 = b. Bằng cách áp dụng liên tiếp thuật toán chia, ta tìm được:
r0= r1q1+ r2      

0  r2< r1              r1= r2q2+ r3              0  r3< r2
..................
rn-2= rn-1qn-1+ rn
0 <= rn< rn-1rn-1= rn qn.
Cuối cùng, số dư 0 sẽ xuất hiện trong dãy các phép chia liên tiếp, vì dãy các số d ư
a = r0> r1> r2>... >= 0
không thể chứa quá a số hạng được. Hơn nữa, từ Mệnh đề 2 ở trên ta suy ra:
UCLN(a,b) = UCLN(r0,r1) = UCLN(r1,r2) = ... = UCLN(rn-2, rn-1) = UCLN(rn-1,rn) = rn.
Do đó, ước chung lớn nhất là số dư khác không cuối cùng trong dãy các phép chia.
Thí dụ 6: Dùng thuật toán Euclide tìm UCLN(414, 662).
662 = 441.1 + 248
414 = 248.1 + 166
248 = 166.1+ 82
166 = 82.2 + 2
82 = 2.41.
Do đó, UCLN(414, 662) = 2.
Thuật toán Euclide được viết dưới dạng giả mã như sau:

procedure ƯCLN (a,b: positive integers)
x := a
y := b
while y <= 0
begin
r := x mod y
x := y
y := r
end
{UCLN (a,b) là x}

Trong thuật toán tr ên, các giá trị ban đầu của x và y tương ứng là a và b. Ở mỗi giai đoạn của thủ tục, x được thay bằng y và y được thay bằng x mod y. Quá trình này được lặp lại chừng nào y <= 0. Thuật toán sẽ ngừng khi y = 0 v à giá trị của x ở điểm n ày, đó là số dư khác không cuối cùng trong thủ tục, cũng chính là ước chung lớn nhất của a và b.
1.4.2. Biểu diễn các số nguyên:
Mệnh đề 3: Cho b là một số nguyên dương lớn hơn 1. Khi đó nếu n là một số nguyên dương, nó có thể được biểu diễn một cách duy nhất dưới dạng:
n = ak bk+ ak-1bk-1+ ... + a1b + a0.
Ở đây k là một số tự nhiên, a0, a1,..., ak là các số tự nhiên nhỏ hơn b và ak<= 0.
Biểu diễn của n được cho trong Mệnh đề 3 được gọi là khai triển của n theo cơ số b, ký hiệu là (akak-1... a1a0)b.

Bây giờ ta sẽ mô tả thuật toán xây dựng khai triển cơ số b của số nguyên n bất kỳ. Tr ước hết ta chia n cho b để được thương và số dư, tức là
n = bq0+ a0, 0 <= a0< b.
Số dư a0 chính là chữ số đứng bên phải cùng trong khai triển c ơ số b c ủa n. Tiếp theo chia q0 cho b, ta được:
q0= bq1+ a1, 0 <= a1< b.
Số dư a1 chính là chữ số thứ hai tính từ bên ph ải trong khai triển c ơ số b của n. Tiếp tục quá trình này, bằng cách liên tiếp chia các thương cho b ta sẽ được các chữ số tiếp theo trong khai triển cơ số b của n là các số d ư tương ứng. Quá trình này sẽ kết thúc khi ta nhận được một thương bằng 0.
Thí dụ 7: Tìm khai triển cơ số 8 của (12345)10.
12345 = 8.1543 + 1
1543 = 8.192 + 7
192 = 8.24 + 0

24 = 8.3 + 0

3 = 8.0 + 3.
Do đó, (12345)10= (30071)8.
Đoạn giả mã sau biểu diễn thuật toán tìm khai triển cơ số b của số nguyên n.

procedure khai triển theo c ơ số b (n: positive integer)
q := n
k := 0
while q <= 0
begin
ak:= q mod b
q := [qb]
k := k + 1
end

1.4.3. Thuật toán cho các phép tính số nguyên:
Các thuật toán thực hiện các phép tính với những số nguyên khi dùng các khai triển nhị phân của chúng là cực kỳ quan trọng trong số học của máy tính. Ta sẽ mô tả ở
đây  các thuật toán cộng và nhân hai  số nguyên trong biểu diễn nhị phân. Ta cũng sẽ phân tích đ ộ phức tạp tính toán của các thuật toán này thông qua số các phép toán bit thực sự được dùng. Giả sử khai triển nhị phân của hai số nguyên dương a và b là:
a = (an-1an-2... a1a0)2
và b = (bn-1bn-2... b1b0)2
sao cho a và b đều có n bit (đặt các bit 0 ở đầu mỗi khai triển đó, nếu cần).
1) Phép cộng: Xét bài toán cộng hai số nguy ên viết ở dạng nhị phân. Thủ tục thực hiện phép cộng có thể dựa trên phương pháp thông thường là cộng cặp chữ số nhị phân với nhau (có nhớ) để tính tổng của hai số nguyên.
Để cộng a và b, trư ớc hết cộng hai bit ở phải cùng của chúng, tức là:
a0+ b0= c0.2 + s0.
Ở đây s0 là bit phải c ùng trong khai triển nhị phân của a+b, c0 là số nhớ, nó có thể bằng 0 hoặc 1. Sau đó ta cộng hai bit tiếp theo và số nhớ
a1+ b1+ c0= c1.2 + s1.
Ở đây s1 là bit tiếp theo (tính từ bên phải) trong khai triển nhị phân của a+b và c1 là số nhớ. Tiếp tục quá trình này b ằng cách cộng các bit tương ứng trong hai khai triển nhị phân và số nhớ để xác định bit tiếp sau tính từ bên phải trong khai triển nhị phân của tổng a+b. Ở giai đoạn cuối cùng, c ộng an-1, bn-1
và cn-2 để nhận được cn-1.2+sn-1. Bit đứngđầu của tổng là sn=cn-1. 

Kết quả, thủ tục này tạo ra được khai triển nhị phân của tổng, cụ thể là a+b = (sn.sn-1sn-2... s1s0)2.
Thí dụ 8: Tìm tổng của a = (11011)2và b = (10110)2.

a0+ b0= 1 + 0 = 0.2 + 1 (c0= 0, s0= 1), 

a1+ b1+ c0= 1 + 1 + 0 = 1.2 + 0 (c1= 1,s1= 0),

 a2+ b2+c1= 0 + 1 + 1 = 1.2 + 0 (c2= 1, s2= 0), 

a3+ b3+ c2= 1 + 0 + 1 = 1.2 +0 (c3= 1, s3= 0), 

a4+ b4+c3= 1 + 1 + 1 = 1.2 + 1 (s5= c4=1, s4= 1).
Do đó, a + b = (110001)2.
Thuật toán cộng có thể được mô tả bằng cách dùng đoạn giả mã như sau.

procedure cộng (a,b: positive integers)
c := 0
for j := 0 to n-1
begin
d:= (aj+bj+c)/2
sj:= aj+ bj+ c - 2d
c := d
end
sn:= c
{khai triển nhị phân của tổng là (snsn-1...s1s0)2}

Tổng hai số  nguyên  đư ợc tính bằng cách cộng liên tiếp các cặp bit và khi cần
phải cộng cả số nhớ nữa. Cộng một cặp bit và số nhớ đòi ba hoặc ít hơn phép c ộng các
bit. Như vậy, tổng số các phép cộng bit được sử dụng nhỏ hơn ba lần số bit trong khai
triển nhị phân. Do đó, độ phức tạp của thuật toán này là O(n).
2) Phép nhân: Xét bài toán nhân hai số nguyên vi ết ở dạng nhị phân. Thuật toán thông
thường tiến hành như sau. Dùng luật phân phối, ta có:

Ta có thể tính ab bằng cách dùng phương trình trên. Trước hết, ta thấy rằng abj=a nếubj=1 và abj=0 nếu bj=0. Mỗi lần ta nhân một số hạng với 2 là ta d ịch khai triển nhị phân của nó một chỗ về phía trái bằng cách thêm m ột số không vào cuối khai triển nhị phân của nó. Do đó, ta có thể nhận được (abj)2j
bằng cách dịch khai triển nhị phân của abj đi j chỗ về phía trái, tức là thêm j số không vào cuối khai triển nhị phân của nó. Cuối cùng, ta sẽ nhận được tích ab bằng cách cộng n số nguyên abj.2jvới j=0, 1, ..., n-1.

Thí dụ 9: Tìm tích của a = (110)2và b = (101)2.
Ta có  ab0.2^0=  (110)2.1.2^0=  (110)2,  ab1.2^1=  (110)2.0.2^1=  (0000)2,  ab2.2^2=(110)2.1.2^2= (11000)2. Để tìm tích, hãy cộng (110)2, (0000)2và (11000)2. Từ đó ta có ab= (11110)2.
Thủ tục trên được mô tả bằng đoạn giả mã sau:
procedure nhân (a,b: positive integers)

for j := 0 to n-1
begin
if bj= 1 then cj:= a được dịch đi j chỗ
else cj:= 0
end
{c0, c1,..., cn-1là các tích riêng phần}
p := 0
for j := 0 to n-1
p := p + cj
{p là giá trị của tích ab}

Thuật toán trên tính tích của hai số nguyên a và b bằng cách cộng các tích riêng phần c0, c1, c2, ..., cn-1. Khi b
j=1, ta tính tích riêng phần cj
bằng cách dịch khai triển nhị phân của a đi j bit. Khi b
j=0 thì không cần có dịch chuyển nào vì c
j=0. Do đó, để tìm tất cả n số nguyên abj.2j
với j=0, 1, ..., n-1, đòi hỏi tối đa là 0 + 1 + 2 + ... + n-1 = n (n-1) /2 phép dịch chỗ. 

Vì vậy, số các dịch chuyển chỗ đòi h ỏi l à O(n2).
Để cộng các số nguy n a b j từ j=0 đến n1, đòi hỏi phải cộng một số nguy ên n bit, một số nguyên n+1 bit, ... và một số nguyên 2n bit. Ta đã biết rằng mỗi phép cộng đó đòi hỏi O(n) phép cộng bit. Do đó, độ phức tạp của thuật toán này là O(n2).

THUẬT TOÁN [ P_3 ]

 1.3. ĐỘ PHỨC TẠP CỦA THUẬT TOÁN.

1.3.1. Khái niệm về độ phức tạp của một thuật toán:
Thước đo hiệu quả của một thuật toán là thời gian mà máy tính sử dụng để giải bài toán theo thuật toán đang xét, khi các giá trị đầu vào có một kích thước xác định.
Một thước đo thứ hai là dung lượng bộ nhớ đòi hỏi để thực hiện thuật toán khi các giá trị đầu vào có kích thước xác định. Các vấn đề như thế liên quan đến độ phức tạp tính toán của một thuật toán. Sự phân tích thời gian cần thiết để giải một bài toán có kích thước đặc biệt nào đó liên quan đến độ phức tạp thời gian của thuật toán. Sự phân tích bộ nhớ cần thiết của máy tính liên quan đến độ phức tạp không gian của thuật toán. Việc xem xét độ phức tạp thời gian và không gian của một thuật toán là một vấn đề rất thiết yếu khi các thuật toán được thực hiện. Biết một thuật toán sẽ đưa ra đáp số trong một micro giây,  trong  một  phút  hoặc  trong  một  tỉ  năm,  hiển  nhiên  là  hết  sức  quan  trọng.

Tương tự như vậy, dung lượng bộ nhớ đòi hỏi phải l à khả dụng để giải một bài toán,vì vậy độ phức tạp không gian cũng cần phải tính đến.Vì việc xem xét độ phức tạp không gian gắn liền với các cấu trúc dữ liệu đặc biệt được dùng để thực hiện thuật toán nên ở đây ta sẽ tập trung xem xét độ phức tạp thời gian.
Độ phức tạp thời gian của một thuật toán có thể được biểu diễn qua số các phép toán được dùng bởi thuật toán đó khi các giá trị đầu vào có một kích thước xác định. Sở dĩ độ phức tạp thời gian được mô tả thông qua số các phép toán đòi hỏi thay vì thời gian thực của máy tính là b ởi vì các máy tính khác nhau thực hiện các phép tính sơ cấp trong những khoảng thời gian khác nhau. Hơn nữa, phân tích tất cả các phép toán thành các phép tính bit sơ cấp m à máy tính sử dụng là điều rất phức tạp.

Thí dụ 3: Xét thuật toán tìm số lớn nhất trong dãy n s ố a1, a2, ..., an. Có thể coi kích thước của dữ liệu nhập là số lượng phần tử của dãy số, t ức là n. N ếu coi mỗi lần so sánh hai số của thuật toán đòi hỏi một đơn vị thời gian (giây chẳng hạn) thì thời gian thực hiện thuật toán trong trường hợp xấu nhất là n -1 giây. Với dãy 64 số, thời gian thực hiện thuật toán nhiều lắm là 63 giây.

Thí dụ 4: Thuật toán v ề trò ch ơi “Tháp Hà Nội”
Trò chơi “Tháp Hà Nội” như sau: Có ba cọc A, B, C và 64 cái đĩa (có lỗ để đặt vào cọc), các đĩa có đường kính đôi một khác nhau. Nguyên tắc đặt đĩa vào cọc là: mỗi đĩa chỉ được chồng lên đĩa lớn hơn nó. Ban đầu, cả 64 đĩa được đặt chồng lên nhau ở cột A; hai cột B, C trống. Vấn đề là phải chuyển cả 64 đĩa đó sang cột B hay C, mỗi lần chỉ được di chuyển một đĩa.
Xét  trò  chơi  với  n đĩa  ban đầu  ở  cọc  A  (cọc  B  và  C  trống).  Gọi  Sn là số lần chuyển đĩa để chơi xong trò chơi v ới n đĩa. 

Nếu n=1 thì rõ ràng là S1=1.
Nếu n>1 thì trước hết ta chuyển n-1 đĩa bên trên sang cọc B (giữ yên đĩa thứ n ở dưới cùng của cọc A). Số lần chuyển n -1 đĩa là Sn-1. Sau đó ta chuyển đĩa thứ n từ cọc A sang cọc C. Cuối cùng, ta chuyển n -1 đĩa từ cọc B sang cọc C (số lần chuyển là Sn-1).
Như vậy, số lần chuyển n đĩa từ A sang C là:

 

Thuật toán về trò ch ơi “Tháp Hà Nội” đòi hỏi 2^64-1 lần chuyển đĩa (xấp xỉ 18,4 tỉ tỉ lần). Nếu mỗi lần chuyển đĩa mất 1 giây thì thời gian thực hiện thuật toán xấp xỉ 585 tỉ năm!
Hai thí dụ trên cho th ấy rằng: một thuật toán phải kết thúc sau một số hữu hạn bước, nhưng nếu số hữu hạn này quá lớn thì thuật toán không thể thực hiện được trong thực tế.
Ta nói: thuật toán trong Thí dụ 3 có độ phức tạp là n-1 và là một thuật toán hữu hiệu (hay thuật toán nhanh); thuật toán trong Thí dụ 4 có độ phức tạp là 2^n-1 và đó là một thuật toán không hữu hiệu (hay thuật toán chậm).

1.3.2. So sánh độ phức tạp của các thuật toán:

Một  bài  toán  th ường  có  nhiều  cách  giải,  có  nhiều  thuật  toán để giải, các thuật toán đó có độ phức tạp khác nhau.
Xét bài toán: Tính giá trị của đa thức P(x)=a

Ta hãy xét độ phức tạp của hai thuật toán trên.
Đối với thuật toán 1: ở bước 2, phải thực hiện 1 phép nhân và 1 phép cộng với i=1; 2 phép nhân và 1 phép cộng với i=2, ..., n phép nhân và 1 phép cộng với i=n. Vậy số phép tính (nhân và cộng) mà thuật toán 1 đòi hỏi là:

Đối với thuật toán 2, bước 2 phải thực hiện n lần, mỗi lần đòi hỏi 2 phép tính (nhân rồi cộng), do đó số phép tính (nhân và cộng) mà thuật toán 2 đòi hỏi l à 2n.

Nếu coi thời gian thực hiện mỗi phép tính nhân và c ộng là nh ư nhau và là một đơn vị thời gian thì với mỗi n cho trước, thời gian thực hiện thuật toán 1 là n(n+3)/2, còn thời gian thực hiện thuật toán 2 là 2n.
Rõ ràng là thời gian thực hiện thuật toán 2 ít h ơn so v ới thời gian thực hiện thuật toán  1. Hàm f1(n)=2n là hàm bậc nhất, tăng chậm hơn nhiều so với  hàm bậc hai f2(n)=n(n+3)/2.
Ta nói rằng thuật toán 2 (có độ phức tạp là 2n) là thuật toán hữu hiệu h ơn (hay nhanh hơn) so với thuật toán 1 (có độ phức tạp là n(n+3)/2).
Để so sánh độ phức tạp của các thuật toán, đi ều tiện lợi là coi độ phức tạp của mỗi thuật toán như là cấp của hàm biểu hiện thời gian thực hiện thuật toán ấy. Các hàm xét sau đây đều là hàm của biến số tự nhiên n>0.
Định nghĩa 1:Ta nói hàm f(n) có cấp thấp hơn hay bằng hàm g(n) nếu tồn tại hằng số C>0 và một số tự nhiên n0sao cho |f(n)| <= C|g(n)| với mọi n <= n0.
Ta viết f(n)=O(g(n)) và còn nói f(n) thoả mãn quan hệ big -O đối với g(n).
Theo định nghĩa này, hàm g(n) là một hàm đơn giản nhất có thể được, đại diện cho “sự biến thiên” của f(n).
Khái niệm big-O đã được dùng trong toán học đã gần một thế kỷ nay. Trong tinhọc, nó được sử dụng rộng rãi để phân tích các thuật toán. Nhà toán học người Đức Paul Bachmann là người đầu tiên đưa ra khái niệm big-O vào năm 1892.
Định nghĩa 2: Nếu một thuật toán có độ phức tạp là f(n) v ới f(n)=O(g(n)) thì ta c ũng
nói thuật toán có độ phức tạp O(g(n)).
Nếu  có  hai  thuật  toán  giải  cùng  m ột  bài  toán,  thuật  toán  1  có  độ  phức  tạp
O(g1(n)), thuật toán 2 có độ phức tạp O(g2(n)), mà g1(n) có cấp thấp hơn g2(n), thì ta nói rằng thuật toán 1 hữu hiệu hơn (hay nhanh hơn) thuật toán 2.

1.3.3. Đánh giá độ phức tạp của một thuật toán:

1) Thuật toán tìm ki ếm tuyến tính:
Số các phép so sánh được dùng trong thuật toán n ày cũng sẽ được xem như thước đo độ phức tạp thời gian của nó. Ở mỗi một bước của vòng l ặp trong thuật toán, có hai phép so sánh được thực hiện: một để xem đã tới cuối bảng chưa và một để so sánh phần tử x với một số hạng của bảng. Cuối cùng còn một phép so sánh nữa làm ở ngoài vòng lặp. Do đó, nếu x=ai, thì đã có 2i+1 phép so sánh được sử dụng. Số phép so sánh nhiều nhất, 2n+2, đòi h ỏi phải được sử dụng khi phần tử x không có mặt trong bảng. Từ đó, thuật toán t ìm ki ếm tuyến tính có độ phức tạp là O(n).
2) Thuật toán tìm ki ếm nhị phân:
Để đ ơn gi ản, ta giả sử rằng có n=2kphần tử trong bảng liệt kê a1,a2,...,an, với k là số nguy ên không âm (nếu n không phải là l ũy thừa của 2, ta có thể xem bảng là một phần của bảng gồm 2k+1 phần tử, trong đó k là số nguy ên nhỏ nhấ t sao cho n < 2k+1).
Ở mỗi giai đoạn của thuật toán vị trí của số hạng đầu tiên i và số hạng cuối cùng j của bảng con hạn chế tìm kiếm ở giai đoạn đó được so sánh để xem bảng con này còn nhiều hơn một phần tử hay không. Nếu i < j, một phép so sánh sẽ được làm để xác định x có lớn hơn s ố hạng ở giữa của bảng con hạn chế hay không. Như vậy ở mỗi giai đoạn, có sử dụng hai phép so sánh. Khi trong bảng chỉ còn một phần tử, một phép so sánh sẽ cho chúng ta biết rằng không còn một phần tử nào thêm n ữa và một phép so sánh nữa cho  biết  số  hạng  đó  có  phải  là  x  hay  không.  Tóm  lại  cần  phải  có  nhiều  nhất 2k+2=2log 2n+2 phép so sánh để thực hiện phép t ìm kiếm nhị phân (nếu n không phải là
lũy thừa của 2, bảng gốc sẽ được mở rộng tới bảng có 2k+1 phần tử, với k=[log2n] và sự tìm kiếm đòi hỏi phải thực hiện nhiều nhất 2[log2n]+2 phép so sánh). Do đó thuật toán tìm kiếm nhị phân có độ phức tạp là O(log2n). Từ sự phân tích ở trên suy ra rằng thuậttoán tìm kiếm nhị phân, ngay cả trong trường hợp xấu nhất, cũng hiệu quả hơn thuậttoán tìm kiếm tuyến tính.

3) Chú ý: Một điều quan trọng cần phải biết là máy tính phải cần bao lâu để giải xong một bài toán. Thí dụ, nếu một thuật toán đòi hỏi 10 giờ, thì có thể còn đáng chi phí thời gian máy tính đòi h ỏi để giải bài toán đó. Nh ưng nếu một thuật toán đòi hỏi 10 tỉ năm để giải một bài toán, thì thực hiện thuật toán đó sẽ là một điều phi lý. Một trong những hiện tượng lý thú nhất của công nghệ hiện đại là sự tăng ghê gớm của tốc độ và lượng bộ nhớ trong máy tính. Một nhân tố quan t rọng khác làm giảm thời gian cần thiết để giải một bài toán là sự xử lý song song - đây là kỹ thuật thực hiện đồng thời các dãy phép tính. Do sự tăng tốc độ tính toán và  dung lượng  bộ nhớ của  máy  tính,  cũng như nh ờ việc
dùng các thuật toán lợi dụng được ưu thế của kỹ thuật xử lý song song, các bài toán vài năm trước đây được xem là không thể giải được, thì bây gi ờ có thể giải bình thường.
1. Các thuật ngữ thường dùng cho độ phức tạp của một thuật toán:
Độ phức tạp
O(1) Độ phức tạp hằng số
O(logn) Độ phức tạp lôgarit
O(n) Độ phức tạp tuyến tính
O(nlogn) Độ phức tạp nlogn
O(nb) Độ phức tạp đa thức
O(bn) (b>1) Độ phức tạp hàm mũ
O(n!) Độ phức tạp giai thừa
2. Thời gian máy tính được dùng bởi một thuật toán:

THUẬT TOÁN [ P_2 ]

 

1.2. THUẬT TOÁN TÌM KIẾM.

1.2.1. Bài toán tìm kiếm: 

Bài toán xác định vị trí của một phần tử trong một bảng liệt kê sắp thứ tự thường gặp trong nhiều trường hợp khác nhau. Chẳng hạn chương trình kiểm tra chính tả của các từ, tìm kiếm các từ này trong một cuốn từ điển, mà từ điển chẳng qua cũng là một bảng liệt kê sắp thứ tự của các từ. Các bài toán thuộc loại này được gọi là các bài toán tìm kiếm.

Bài toán tìm kiếm tổng quát được mô tả như sau: xác định vị trí của phần tử x trong một bảng liệt kê các phần tử phân biệt a1,a2, ..., an hoặc xác định rằng nó không có mặt trong bảng liệt kê đó. L ời giải của bài toán trên là vị trí của số hạng của bảng liệt kê có giá trị bằng x (tức là i sẽ là nghiệm nếu x=ai và là 0 nếu x không có mặt trong bảngliệt kê).

1.2.2. Thuật toán tìm kiếm tuyến tính:

Tìm kiếm tuyến tính hay tìm kiếm tuần tự là bắt đầu bằng việc so sánh x với a1; khi x = a1, nghiệm là vị trí a1, tức là 1; khi x != a1, so sánh x với a2. Nếu x = a2, nghiệm l à vị trí của a2, tức là 2. Khi x != a2, so sánh x với a3. Tiếp tục quá trình này b ằng cách tuần tự so sánh x với mỗi số hạng của bảng liệt kê cho tới khi tìm được số hạng bằng x, khi đó nghiệm là vị trí của số hạng đó. Nếu toàn bảng liệt kê đã được kiểm tra mà không xác định được vị trí của x, thì nghi ệm là 0. Giả mã đối với thuật toán tìm kiếm tuyến tính được cho dưới đây:

procedure tìm kiếm tuyến tính (x: integer, a1,a2,...,an: integers phân biệt)
i := 1
while (i <= n and x != ai)
i := i + 1
if i <= n then location := i
else location := 0 

{location là chỉ số dưới của số hạng bằng x hoặc là 0 nếu không tìm được x}

1.2.3. Thuật toán tìm ki ếm nhị phân:

Thuật toán này có thể được dùng khi bảng liệt kê có các số hạng được sắp theo thứ tự tă ng dần. Chẳng hạn, nếu các số hạng là các số thì chúng được sắp từ số nhỏ nhất đến số lớn nhất hoặc nếu chúng là các từ hay xâu ký tự thì chúng được sắp theo thứ tự từ điển. Thuật toán thứ hai này gọi là thuật toán tìm kiếm nhị phân. Nó được tiến hành bằng cách so sánh phần tử cần xác định vị trí với số hạng ở giữa bảng liệt kê. Sau đó bảng này được tách làm hai bảng kê con nhỏ hơn có kích thước như nhau, hoặc một trong hai bảng con ít hơn bảng con kia một số hạng. Sự tìm ki ếm tiếp tục bằng cách hạn chế tìm kiếm ở một bảng kê con thích hợp dựa trên việc so sánh phần tử cần xác định vị trí với số hạng giữa bảng kê. Ta sẽ thấy rằng thuật toán tìm kiếm nhị phân hiệu quả hơn nhiều so với thuật toán tìm kiếm tuyến tính.

Thí  dụ  2. Để  tìm  số  19  trong  bảng  liệt  kê 1,2,3,5,6,7,8,10,12,13,15,16,18,19,20,22  ta tách bảng liệt kê gồm 16 số hạng này thành hai bảng liệt kê nhỏ hơn, mỗi bảng có 8 số hạng, cụ thể là: 1,2,3,5,6,7,8,10 và 12,13,15,16,18,19,20,22.

Sau đó ta so sánh 19 với số hạng cuối cùng của bảng con thứ nhất . Vì 10<19, vi ệc tìm kiếm 19 chỉ giới hạn trong bảng liệt kê con thứ 2 từ số hạng thứ 9 đến 16 trong bảng liệt kê ban đầu.

Tiếp theo, ta lại tách bảng liệt kê con g ồm 8 số hạng này làm hai bảng con, mỗi bảng có 4 số hạng, cụ thể là 12,13,15,16 và 18,19,20, 22. Vì 16<19, việc tìm ki ếm lại được giới hạn chỉ trong bảng con thứ 2, từ số hạng thứ 13 đến 16 của bảng liệt kê ban đầu. Bảng liệt kê thứ 2 này lại được tách làm hai, cụ thể là: 18,19 và 20,22. Vì 19 không lớn hơn số hạng lớn nhất của bảng con thứ nhất nên vi ệc tìm kiếm giới hạn chỉ ở bảng con thứ nhất gồm các số 18,19, l à số hạng thứ 13 và 14 của bảng ban đầu.

Tiếp theo bảng con chứa hai số hạng này lại được tách làm hai, mỗi bảng có một số hạng 18 và 19. Vì 18<19, s ự tìm kiếm giới hạn chỉ trong bảng con thứ 2, bảng liệt kê chỉ chứa số hạng thứ 14 của bảng liệt kê ban đầu, số hạng đó là s ố 19. Bây giờ sự tìm kiếm đã thu hẹp về chỉ còn một số hạng, so sánh tiếp cho thấy19 là số hạng thứ 14 của bảng liệt kê ban đầu. Bây giờ ta có thể chỉ rõ các bước trong thu ật toán t ìm kiếm nhị phân. Để tìm số nguyên x trong bảng liệt kê a1,a2,...,an với a1< a2< ... < an, ta bắt đầu bằng việc so sánh x với số hạng am ở giữa của dãy, với m=[(n+1)/2]. Nếu x > am, việc tìm kiếm x giới hạn ở nửa thứ hai của dãy, gồm am+1,am+2,...,an. Nếu x không lớn hơn am, thì sự tìm kiếm giới hạn trong nửa đầu của dãy gồm a1,a2,...,am.

Bây giờ sự tìm kiếm chỉ giới hạn trong bảng liệt kê có không hơn [n/2] phần tử. Dùng chính thủ tục này, so sánh x với số hạng ở giữa của bảng liệt kê được hạn chế. Sau đó lại hạn chế việc t ìm kiếm ở nửa thứ nhất hoặc nửa thứ hai của bảng liệt kê. Lặp lại quá trình này cho tới khi nhận được một bảng liệt kê chỉ có một số hạng. Sau đó, chỉ còn xác định số hạng này có phải là x hay không. Giả mã cho thuật toán tìm kiếm nhị phân được cho dưới đây:

procedure tìm ki ếm nhị phân (x: integer, a1,a2,...,an: integers tăng dần)
         i := 1 {i là đi ểm mút trái của khoảng tìm kiếm}
         j := n {j là đi ểm mút phải của khoảng tìm kiếm}
        while i < j
        begin
                 m:= [(i+j)/2]
                 if x>am
                        then i:=m+1
                 else j := m
        end
        if x = ai then location := i
        else location := 0

{location là chỉ số dưới của số hạng bằng x hoặc 0 nếu không tìm thấy x}