Àü·Â ¼Ò¸ð¸¦ ÃÖ¼ÒÈÇϸ鼵µ ÃÊ°í¼ÓÀ¸·Î °Å´ë¾ð¾î¸ðµ¨(LLM)À» ó¸®ÇÒ ¼ö ÀÖ´Â ÀΰøÁö´É(AI) ¹ÝµµÃ¼ ÇÙ½É ±â¼úÀÎ '»óº¸Çü Æ®·£½ºÆ÷¸Ó'(Complementary-Transformer)¸¦ ±¹³» ¿¬±¸ÁøÀÌ ¼¼°è ÃÖÃÊ·Î °³¹ßÇß´Ù.
6ÀÏ °úÇбâ¼úÁ¤º¸Åë½ÅºÎ´Â Çѱ¹°úÇбâ¼ú¿ø(KAIST) PIM¹ÝµµÃ¼ ¿¬±¸¼¾ÅÍ¿Í ÀΰøÁö´É¹ÝµµÃ¼´ëÇпø À¯È¸ÁØ ±³¼ö ¿¬±¸ÆÀÀÌ »óº¸Çü Æ®·£½ºÆ÷¸Ó¸¦ »ï¼ºÀüÀÚ 28³ª³ë °øÁ¤À» ÅëÇØ °³¹ßÇß´Ù°í ¹àÇû´Ù.
»óº¸Çü Æ®·£½ºÆ÷¸Ó¶õ Àΰ£ ³úÀÇ ±¸Á¶¿Í ±â´ÉÀ» ¸ð¹æÇØ ¼³°èÇÑ ´º·Î¸ðÇÈ ÄÄÇ»Æà ½Ã½ºÅÛÀÇ ÀÏÁ¾ÀÎ '½ºÆÄÀÌÅ· ´º·² ³×Æ®¿öÅ©'(SNN·³úÀÇ ´º·±ÀÌ ½ºÆÄÀÌÅ©¶ó´Â ½Ã°£¿¡ µû¸¥ ½ÅÈ£¸¦ »ç¿ëÇØ Á¤º¸¸¦ ó¸®ÇÏ´Â ¹æ½Ä)¿Í '½ÉÃþ Àΰø½Å°æ¸Á'(DNN·½Ã°¢Àû µ¥ÀÌÅÍ Ã³¸®¿¡ »ç¿ëµÇ´Â µö·¯´× ¸ðµ¨)À» ¼±ÅÃÀûÀ¸·Î »ç¿ëÇØ Æ®·£½ºÆ÷¸Ó ±â´ÉÀ» ±¸ÇöÇÏ´Â ±â¼úÀÌ´Ù. Æ®·£½ºÆ÷¸Ó´Â ¹®Àå ¼Ó ´Ü¾î¿Í °°Àº µ¥ÀÌÅÍ ³»ºÎÀÇ °ü°è¸¦ ÃßÀûÇØ ¸Æ¶ô°ú Àǹ̸¦ ÇнÀÇÏ´Â ½Å°æ¸ÁÀ¸·Î êGPTÀÇ ¿øõ ±â¼úÀ̱⵵ ÇÏ´Ù.
GPT¿Í °°Àº °Å´ë¾ð¾î¸ðµ¨Àº ±×µ¿¾È ´Ù·®ÀÇ ±×·¡ÇÈó¸®ÀåÄ¡(GPU)¿Í 250¿ÍÆ®ÀÇ Àü·Â ¼Ò¸ð¸¦ ÅëÇØ ±¸µ¿ÇØ¾ß ÇßÁö¸¸, ¿¬±¸ÆÀÀº 4.5§®×4.5§®ÀÇ ÀÛÀº AI ¹ÝµµÃ¼ ÇÑ °³¿¡¼ 400¹Ð¸®¿ÍÆ®ÀÇ ÃÊÀúÀü·Â¸¸ ¼Ò¸ðÇϸ鼵µ ÃÊ°í¼Ó ±¸Çö¿¡ ¼º°øÇß´Ù.
±è»ó¿± ¹Ú»ç°¡ Á¦1 ÀúÀÚ·Î Âü¿©ÇÑ À̹ø ¿¬±¸ °á°ú´Â Áö³´Þ 19∼23ÀÏ ¹Ì±¹ »÷ÇÁ¶õ½Ã½ºÄÚ¿¡¼ ¿¸° '¹ÝµµÃ¼ ¼³°è ¿Ã¸²ÇÈ' ±¹Á¦°íüȸ·Î¼³°èÇÐȸ(ISSCC)¿¡¼ ¹ßÇ¥·½Ã¿¬µÆ´Ù.
±âº» ´º·Î¸ðÇÈ ÄÄÇ»Æà ±â¼úÀº ÇÕ¼º°ö½Å°æ¸Á(CNN·½ÉÃþÀΰø½Å°æ¸ÁÀÇ Çϳª·Î À̹ÌÁö ÀνķºÐ·ù¿Í ºñµð¿À ºÐ¼® µî ½Ã°¢Àû µ¥ÀÌÅÍ Ã³¸®¿¡ »ç¿ëµÇ´Â µö·¯´× ¸ðµ¨)º¸´Ù ºÎÁ¤È®ÇØ °£´ÜÇÑ À̹ÌÁö ºÐ·ù ÀÛ¾÷¸¸ ÇÒ ¼ö ÀÖ¾úÀ¸³ª, ¿¬±¸ÁøÀº ´º·Î¸ðÇÈ ÄÄÇ»Æà ±â¼úÀÇ Á¤È®µµ¸¦ CNN°ú µ¿ÀÏÇÑ ¼öÁØÀ¸·Î ²ø¾î¿Ã¸®°í ´Ù¾çÇÑ ÀÀ¿ë ºÐ¾ß¿¡ Àû¿ëÇÒ ¼ö ÀÖ´Â '»óº¸Çü ½ÉÃþ½Å°æ¸Á' (C-DNN) ±â¼úÀ» È°¿ëÇß´Ù°í ¼³¸íÇß´Ù.
»óº¸Çü ½ÉÃþ½Å°æ¸ÁÀº ½ÉÃþ Àΰø½Å°æ¸Á(DNN)°ú ½ºÆÄÀÌÅ· ´º·² ³×Æ®¿öÅ©(SNN)¸¦ È¥ÇÕ »ç¿ëÇØ ¼Ò¸ð Àü·ÂÀ» ÃÖ¼ÒÈÇÒ ¼ö ÀÖ´Â ±â¼ú·Î, Áö³ÇØ 2¿ù ISSCC¿¡¼ ±è»ó¿± ¹Ú»ç°¡ ¹ßÇ¥Çß´Ù.
»ç¶÷ÀÇ ³úó·³ µ¥ÀÌÅÍ ÀԷ°ªÀÌ Å©¸é Àü·ÂÀ» ¸¹ÀÌ ¾²°í ÀÛÀ¸¸é Àü·ÂÀ» Àû°Ô ¾²´Â SNNÀÇ Æ¯Â¡À» È°¿ëÇØ ÀÛÀº ÀԷ°ªÀº SNN¿¡, Å« ÀԷ°ªÀº DNN¿¡ °¢°¢ ÇÒ´çÇÏ´Â ¹æ½ÄÀÌ´Ù.
¿¬±¸ÆÀÀº ÀÌ·¯ÇÑ »óº¸Çü ½ÉÃþ½Å°æ¸Á ±â¼úÀ» °Å´ë¾ð¾î¸ðµ¨¿¡ Àû¿ëÇÔÀ¸·Î½á ÃÊÀúÀü·Â·°í¼º´ÉÀÇ ¿Âµð¹ÙÀ̽º AI°¡ °¡´ÉÇÏ´Ù´Â °ÍÀ» ½ÇÁ¦·Î ÀÔÁõÇÑ °ÍÀº ¹°·Ð, À̷п¡¸¸ ¸Ó¹°·¶´ø ¿¬±¸ ³»¿ëÀ» ¼¼°è ÃÖÃÊ·Î AI¹ÝµµÃ¼ ÇüÅ·Π±¸ÇöÇß´Ù°í °ú±âÁ¤ÅëºÎ´Â ¼³¸íÇß´Ù.
À̹ø¿¡ °³¹ßÇÑ AI¹ÝµµÃ¼¿ë Çϵå¿þ¾î À¯´ÖÀº ¡ã DNN°ú SNNÀ» À¶ÇÕÇÑ ½Å°æ¸Á ¾ÆÅ°ÅØó·Î Á¤È®µµ¸¦ À¯ÁöÇϸ鼵µ ¿¬»ê ¿¡³ÊÁö ¼Ò¸ð·®À» ÃÖÀûÈ ¡ã DNN°ú SNNÀ» ¸ðµÎ È¿À²ÀûÀ¸·Î ó¸®ÇÒ ¼ö ÀÖ´Â AI¹ÝµµÃ¼¿ë ÅëÇÕ ÄÚ¾î ±¸Á¶ °³¹ß ¡ã SNN 󸮿¡ ¼Ò¸ðµÇ´Â Àü·ÂÀ» ÁÙÀÌ´Â Ãâ·Â ½ºÆÄÀÌÅ© ÃßÃø À¯´Ö °³¹ß ¡ã LLM ÆĶó¹ÌÅÍÀÇ È¿°úÀû ¾ÐÃàÀ» À§ÇÑ ±â¹ý »ç¿ë µî 4°¡Áö Ư¡À» Áö´Ñ´Ù°í ¿¬±¸ÁøÀº ¹àÇû´Ù.
À̸¦ ÅëÇØ GPT-2 °Å´ë¸ðµ¨ÀÇ ÆĶó¹ÌÅ͸¦ 7¾ï800¸¸ °³¿¡¼ 1¾ï9õ100¸¸ °³·Î, ¹ø¿ª¿¡ »ç¿ëµÇ´Â T5 ¸ðµ¨ÀÇ ÆĶó¹ÌÅ͸¦ 4¾ï200¸¸ °³¿¡¼ 7õ600¸¸ °³·Î °¢°¢ ÁÙÀÏ ¼ö ÀÖ¾ú´Ù.
ÀÌ·¯ÇÑ ¾ÐÃà ÀÛ¾÷ °á°ú ¾ð¾î¸ðµ¨ÀÇ ÆĶó¹ÌÅ͸¦ ¿ÜºÎ ¸Þ¸ð¸®·ÎºÎÅÍ ºÒ·¯¿À´Â ÀÛ¾÷¿¡ ¼Ò¸ðµÇ´Â Àü·ÂÀ» 70% ÁÙÀÌ´Â µ¥ ¼º°øÇß´Ù. ¿¬±¸Áø¿¡ µû¸£¸é »óº¸Çü Æ®·£½ºÆ÷¸Ó´Â ¿£ºñµð¾Æ A100 GPU ´ëºñ 625ºÐÀÇ 1 ¼öÁØÀÇ Àü·ÂÀ» ¾²¸é¼ GPT-2 ¸ðµ¨À» È°¿ëÇÑ ¾ð¾î »ý¼º¿¡´Â 0.4ÃÊ, T5 ¸ðµ¨À» È°¿ëÇÑ ¾ð¾î ¹ø¿ª¿¡´Â 0.2ÃÊÀÇ °í¼Ó µ¿ÀÛÀÌ °¢°¢ °¡´ÉÇÏ´Ù.
ÆĶó¹ÌÅÍ °æ·®È·Î ¾ð¾î »ý¼ºÀÇ °æ¿ì 1.2ºÐ±â°è¼ö(³·À»¼ö·Ï ¾ð¾î¸ðµ¨ÀÌ Àß ÇнÀµÆ´Ù´Â ÀǹÌ)¸¸Å Á¤È®µµ°¡ °¨¼ÒÇϱä ÇßÀ¸³ª, »ý¼ºµÈ ¹®ÀåÀ» »ç¶÷ÀÌ ÀÐÀ» ¶§ ¾î»öÇÔÀ» ´À³¢Áö ¾ÊÀ» ¼öÁØÀ̶ó°í ¿¬±¸ÁøÀº ¼³¸íÇß´Ù.
¿¬±¸ÆÀÀº ÇâÈÄ ´º·Î¸ðÇÈ ÄÄÇ»ÆÃÀ» ¾ð¾î¸ðµ¨¿¡ ±¹ÇÑÇÏÁö ¾Ê°í ´Ù¾çÇÑ ÀÀ¿ë ºÐ¾ß·Î ¿¬±¸ ¹üÀ§¸¦ È®ÀåÇÒ ¿¹Á¤ÀÌ´Ù.
À¯È¸ÁØ ±³¼ö´Â "´º·Î¸ðÇÈ ÄÄÇ»ÆÃÀº IBM, ÀÎÅÚ °°Àº ȸ»çµéµµ ±¸ÇöÇÏÁö ¸øÇÑ ±â¼ú·Î, ÃÊÀúÀü·ÂÀÇ ´º·Î¸ðÇÈ °¡¼Ó±â¸¦ °®°í °Å´ë¸ðµ¨À» µ¹¸° °ÍÀº ¼¼°è ÃÖÃʶó°í ÀÚºÎÇÑ´Ù"¸ç "¿Âµð¹ÙÀ̽º AIÀÇ ÇÙ½É ±â¼úÀÎ ¸¸Å ¾ÕÀ¸·Îµµ °ü·Ã ¿¬±¸¸¦ Áö¼ÓÇÒ °Í"À̶ó°í ¸»Çß´Ù.
Á¤Á¾Èñ ±âÀÚ jhjung2@jeonpa.co.kr
<ÀúÀÛ±ÇÀÚ © ÀüÆĽŹ®, ¹«´Ü ÀüÀç ¹× Àç¹èÆ÷ ±ÝÁö>