ଜିମ୍ କେଲରଙ୍କ ନେତୃତ୍ୱାଧୀନ ଚିପ୍ କମ୍ପାନୀ ଟେନଷ୍ଟୋରେଣ୍ଟ AI କାର୍ଯ୍ୟଭାର ପାଇଁ ଏହାର ପରବର୍ତ୍ତୀ ପିଢ଼ିର ୱର୍ମହୋଲ୍ ପ୍ରୋସେସର ପ୍ରକାଶ କରିଛି, ଯାହା ସୁଲଭ ମୂଲ୍ୟରେ ଭଲ କାର୍ଯ୍ୟଦକ୍ଷତା ପ୍ରଦାନ କରିବ ବୋଲି ଆଶା କରୁଛି।କମ୍ପାନୀ ବର୍ତ୍ତମାନ ଦୁଇଟି ଅତିରିକ୍ତ PCIe କାର୍ଡ ପ୍ରଦାନ କରୁଛି ଯାହା ଗୋଟିଏ କିମ୍ବା ଦୁଇଟି ୱର୍ମହୋଲ ପ୍ରୋସେସରକୁ ସ୍ଥାନିତ କରିପାରିବ, ଏବଂ ସଫ୍ଟୱେର୍ ଡେଭଲପରମାନଙ୍କ ପାଇଁ TT-LoudBox ଏବଂ TT-QuietBox ୱାର୍କଷ୍ଟେସନ୍ ମଧ୍ୟ ପ୍ରଦାନ କରୁଛି। ଆଜିର ସମସ୍ତ ଘୋଷଣା ଡେଭଲପରମାନଙ୍କ ପାଇଁ ଉଦ୍ଦିଷ୍ଟ, ବାଣିଜ୍ୟିକ କାର୍ଯ୍ୟଭାର ପାଇଁ ୱର୍ମହୋଲ ବୋର୍ଡ ବ୍ୟବହାର କରୁଥିବା ଲୋକଙ୍କ ପାଇଁ ନୁହେଁ।
"ଆମର ଅଧିକ ଉତ୍ପାଦ ଡେଭଲପରଙ୍କ ହାତରେ ଦେବା ସର୍ବଦା ସନ୍ତୋଷଜନକ। ଆମର Wormhole™ କାର୍ଡ ବ୍ୟବହାର କରି ଡେଭଲପମେଣ୍ଟ ସିଷ୍ଟମଗୁଡ଼ିକୁ ମୁକ୍ତ କରିବା ଡେଭଲପରମାନଙ୍କୁ ମଲ୍ଟି-ଚିପ୍ AI ସଫ୍ଟୱେର୍ ସ୍କେଲ୍ ଏବଂ ବିକଶିତ କରିବାରେ ସାହାଯ୍ୟ କରିପାରିବ," ଟେନଷ୍ଟୋରେଣ୍ଟର ସିଇଓ ଜିମ୍ କେଲର କହିଛନ୍ତି।ଏହି ଲଞ୍ଚ ସହିତ, ଆମର ଦ୍ୱିତୀୟ ପିଢ଼ିର ଉତ୍ପାଦ, ବ୍ଲାକହୋଲର ଟେପ୍ ଆଉଟ୍ ଏବଂ ପାୱାର-ଅପ୍ ସହିତ ଆମେ ଯେଉଁ ଅଗ୍ରଗତି କରୁଛୁ ତାହା ଦେଖି ଆମେ ଉତ୍ସାହିତ।
ପ୍ରତ୍ୟେକ ୱର୍ମହୋଲ ପ୍ରୋସେସରରେ 72 ଟି ଟେନସିକ୍ସ କୋର (ଯାହା ମଧ୍ୟରୁ ପାଞ୍ଚଟି ବିଭିନ୍ନ ଡାଟା ଫର୍ମାଟରେ RISC-V କୋରକୁ ସମର୍ଥନ କରେ) ଏବଂ 108 MB SRAM ଥାଏ, ଯାହା 160W ଥର୍ମାଲ୍ ଡିଜାଇନ୍ ପାୱାର ସହିତ 1 GHz ରେ 262 FP8 TFLOPS ପ୍ରଦାନ କରେ। ସିଙ୍ଗଲ୍-ଚିପ୍ ୱର୍ମହୋଲ n150 କାର୍ଡଟି 12 GB GDDR6 ଭିଡିଓ ମେମୋରୀ ସହିତ ସଜ୍ଜିତ ଏବଂ ଏହାର ବ୍ୟାଣ୍ଡୱିଡଥ୍ 288 GB/s ଅଟେ।
ୱାର୍ମହୋଲ ପ୍ରୋସେସରଗୁଡ଼ିକ କାର୍ଯ୍ୟଭାରର ବିଭିନ୍ନ ଆବଶ୍ୟକତା ପୂରଣ କରିବା ପାଇଁ ନମନୀୟ ସ୍କେଲେବଲିଟି ପ୍ରଦାନ କରନ୍ତି। ଚାରୋଟି ୱାର୍ମହୋଲ n300 କାର୍ଡ ସହିତ ଏକ ମାନକ ୱର୍କଷ୍ଟେସନ୍ ସେଟଅପ୍ରେ, ପ୍ରୋସେସରଗୁଡ଼ିକୁ ଏକ ୟୁନିଟ୍ରେ ମିଶ୍ରିତ କରାଯାଇପାରିବ ଯାହା ସଫ୍ଟୱେର୍ରେ ଏକ ଏକୀକୃତ, ବିସ୍ତୃତ ଟେନ୍ସିକ୍ସ କୋର୍ ନେଟୱାର୍କ ଭାବରେ ଦେଖାଯାଏ। ଏହି ବିନ୍ୟାସ ତ୍ୱରକକୁ ସମାନ କାର୍ଯ୍ୟଭାର ପରିଚାଳନା କରିବାକୁ, ଚାରି ଡେଭଲପରଙ୍କ ମଧ୍ୟରେ ବିଭାଜିତ କରିବାକୁ କିମ୍ବା ଏକକାଳୀନ ଆଠଟି ଭିନ୍ନ AI ମଡେଲ୍ ଚଲାଇବାକୁ ଅନୁମତି ଦିଏ। ଏହି ସ୍କେଲେବଲିଟିର ଏକ ପ୍ରମୁଖ ବୈଶିଷ୍ଟ୍ୟ ହେଉଛି ଏହା ଭର୍ଚୁଆଲାଇଜେସନ୍ ବିନା ସ୍ଥାନୀୟ ଭାବରେ ଚାଲିପାରିବ। ଏକ ଡାଟା ସେଣ୍ଟର ପରିବେଶରେ, ୱାର୍ମହୋଲ ପ୍ରୋସେସରଗୁଡ଼ିକ ମେସିନ୍ ଭିତରେ ବିସ୍ତାର ପାଇଁ PCIe କିମ୍ବା ବାହ୍ୟ ବିସ୍ତାର ପାଇଁ ଇଥରନେଟ୍ ବ୍ୟବହାର କରିବେ।
କାର୍ଯ୍ୟଦକ୍ଷତା ଦୃଷ୍ଟିରୁ, ଟେନଷ୍ଟୋରେଣ୍ଟର ସିଙ୍ଗଲ୍-ଚିପ୍ ୱର୍ମହୋଲ୍ n150 କାର୍ଡ (72 ଟେନସିକ୍ସ କୋର୍, 1 GHz ଫ୍ରିକ୍ୱେନ୍ସି, 108 MB SRAM, 12 GB GDDR6, 288 GB/s ବ୍ୟାଣ୍ଡୱିଡ୍ଥ) 160W ରେ 262 FP8 TFLOPS ହାସଲ କରିଛି, ଯେତେବେଳେ ଡୁଆଲ୍-ଚିପ୍ ୱର୍ମହୋଲ୍ n300 ବୋର୍ଡ (128 ଟେନସିକ୍ସ କୋର୍, 1 GHz ଫ୍ରିକ୍ୱେନ୍ସି, 192 MB SRAM, ସମଷ୍ଟିଗତ 24 GB GDDR6, 576 GB/s ବ୍ୟାଣ୍ଡୱିଡ୍ଥ) 300W ରେ 466 FP8 TFLOPS ପର୍ଯ୍ୟନ୍ତ ପ୍ରଦାନ କରିଛି।
466 FP8 TFLOPS ର 300W କୁ ପ୍ରସଙ୍ଗକୁ ଆଣିବାକୁ, ଆମେ ଏହାକୁ ଏହି ଥର୍ମାଲ୍ ଡିଜାଇନ୍ ପାୱାରରେ AI ବଜାର ନେତା Nvidia ପ୍ରଦାନ କରୁଥିବା ସହିତ ତୁଳନା କରିବୁ। Nvidia ର A100 FP8 କୁ ସମର୍ଥନ କରେ ନାହିଁ, କିନ୍ତୁ ଏହା INT8 କୁ ସମର୍ଥନ କରେ, 624 TOPS (ସ୍ପର୍ଶରେ 1,248 TOPS) ର ସର୍ବାଧିକ କାର୍ଯ୍ୟଦକ୍ଷତା ସହିତ। ତୁଳନାରେ, Nvidia ର H100 FP8 କୁ ସମର୍ଥନ କରେ ଏବଂ 300W ରେ 1,670 TFLOPS ର ସର୍ବାଧିକ କାର୍ଯ୍ୟଦକ୍ଷତାରେ ପହଞ୍ଚିଥାଏ (ସ୍ପର୍ଶରେ 3,341 TFLOPS), ଯାହା Tenstorrent ର Wormhole n300 ଠାରୁ ଯଥେଷ୍ଟ ଭିନ୍ନ।
ତଥାପି, ଗୋଟିଏ ପ୍ରମୁଖ ସମସ୍ୟା ଅଛି। Tenstorrent ର Wormhole n150 $999 ରେ ବିକ୍ରି ହୁଏ, ଯେତେବେଳେ n300 $1,399 ରେ ବିକ୍ରି ହୁଏ। ତୁଳନାତ୍ମକ ଭାବରେ, ଗୋଟିଏ Nvidia H100 ଗ୍ରାଫିକ୍ସ କାର୍ଡ ପରିମାଣ ଉପରେ ନିର୍ଭର କରି $30,000 ରେ ବିକ୍ରି ହୁଏ। ନିଶ୍ଚିତ ଭାବରେ, ଆମେ ଜାଣିନାହୁଁ ଯେ ଚାରି କିମ୍ବା ଆଠଟି Wormhole ପ୍ରୋସେସର ପ୍ରକୃତରେ ଗୋଟିଏ H300 ର କାର୍ଯ୍ୟଦକ୍ଷତା ପ୍ରଦାନ କରିପାରିବେ କି ନାହିଁ, କିନ୍ତୁ ସେମାନଙ୍କର TDP ଯଥାକ୍ରମେ 600W ଏବଂ 1200W ଅଟେ।
କାର୍ଡଗୁଡ଼ିକ ବ୍ୟତୀତ, ଟେନଷ୍ଟୋରେଣ୍ଟ ଡେଭଲପରମାନଙ୍କ ପାଇଁ ପୂର୍ବରୁ ନିର୍ମିତ ୱାର୍କଷ୍ଟେସନ୍ ପ୍ରଦାନ କରେ, ଯେଉଁଥିରେ ସକ୍ରିୟ କୁଲିଂ ସହିତ ଅଧିକ ସୁଲଭ Xeon-ଆଧାରିତ TT-LoudBoxରେ 4 n300 କାର୍ଡ ଏବଂ EPYC-ଆଧାରିତ Xiaolong ସହିତ ଉନ୍ନତ TT-QuietBox) ତରଳ କୁଲିଂ ଫଙ୍କସନ୍ ଅନ୍ତର୍ଭୁକ୍ତ।
ପୋଷ୍ଟ ସମୟ: ଜୁଲାଇ-୨୯-୨୦୨୪