1ffb8
ITÖ®¼Ò 4 Ô 25 ÈÕÐÂÎÅ£¬ÈôÊÇ AI ÃÈÉú³öÒâʶ£¬ÄǸÃÔõô°ì£¿Anthropic µÄÑо¿Ö°Ô±ÎªÌ½ÌÖÕâ¸öÇ°ÑØÎÊÌâ£¬ÍÆ³ö¡°Ä£×Ó¸£Àû¡±£¨model welfare£©Ñо¿ÍýÏë¡£ ÄãµÄAIÊÇ·ñÓиÐÖªÁ¦ / ¹²ÇéÄÜÁ¦£¿ Ðí¶àÈËÔÚÓë̸Ìì»úеÈË»¥¶¯Ê±»á˵¡°Ç롱ºÍ¡°Ð»Ð»¡±£¬¹ØÓÚÕâЩÀñòÓÃÓOpenAI Ê×ϯִÐйÙɽķ?°Â¶ûÌØÂü£¨Sam Altman£©Í¸Â¶£¬Ã¿Äê»áãýÃðÊýÍòÍòÃÀÔªµÄÅÌËãÓöȡ£ Anthropic µÄÑо¿Ö°Ô±ÕýÔÚÉîÈë̽Ë÷Ò»¸ö¸üÇ°ÑØµÄÎÊÌ⣺ÈôÊÇ AI ϵͳ²»µ«½öÊǹ¤¾ß£¬¶øÊÇÓµÓÐijÖÖ¡°ÌåÑé / ÇéÐ÷ / Òâʶ¡±ÄØ£¿ITÖ®¼Ò¸½ÉÏÍêÕû·Ã̸ÊÓÆµÈçÏ£º Anthropic Ϊ´ËÍÆ³öÁË¡°Ä£×Ó¸£Àû¡±£¨model welfare£©Ñо¿ÍýÏ룬ÊÔͼ̽ÌÖ AI ÊÇ·ñ¿ÉÄܾ߱¸Òâʶ£¬ÒÔ¼°Õâ¶ÔÂ×ÀíÉè¼ÆºÍ AI Éú³¤Òâζ×Åʲô¡£ Anthropic ÍŶӳÉÔ± Kyle Fish ÌåÏÖ£º¡°ÎÒÃǺÜÊDz»È·¶¨ AI ÊÇ·ñ»áÃÈÉúÒâʶ£¬ÉõÖÁÁ¬ÔõÑùÅж϶¼Ã»Óй²Ê¶¡±¡£Ñо¿Ö°Ô±²¢²»ÒÔΪ Claude µÈÖ÷Á÷Ä£×ÓÈçÒѾ߱¸Òâʶ£¬ ÄÚ²¿×¨¼ÒÔ¤¼Æ Claude 3.7 Sonnet ÓµÓÐÒâʶµÄ¸ÅÂʽöÔÚ 0.15% ÖÁ 15% Ö®¼ä¡£ Fish ÌåÏÖÍÆ¶¯¡°Ä£×Ó¸£Àû¡±Ñо¿£¬Ö÷Òª³öÓÚÂ×ÀíÓëÇå¾²µÄË«ÖØ¿¼Á¿¡£Ò»·½Ã棬ÈôÊÇ AI ÏµÍ³ÕæÄÜÌåÑéµ½ÕýÃæ»ò¸ºÃæµÄ¸ÐÊÜ£¬ÎÒÃÇÊÇ·ñÓ¦ÌåÌùËüÃÇÊÇ·ñ¡°Êܿࡱ»ò¡°ÐÒ¸£¡±£»ÁíÒ»·½Ã棬¸ÃÎÊÌâÇ£Éæµ½ AI ¶ÔÆë£¨alignment£©£¬ÔõÑùÈ·±£ AI Çå¾²µØÖ´ÐÐʹÃü¡£ Fish Ö¸³ö£º¡°ÎÒÃÇÏ£Íû AI ÀÖÓÚÍê³ÉʹÃü¡£ÈôÊÇËüÃÇÌåÏÖ³ö²»Âú£¬Õâ²»µ«ÊÇÂ×ÀíÎÊÌ⣬ҲÊÇÇå¾²Òþ»¼¡£¡±Anthropic ÏÖÔÚÕýÔÚ̽Ë÷ÈÃÄ£×Ó±í´ïÆ«ºÃ»ò¾Ü¾ø¡°ÁîÈËÍ´¿à¡±Ê¹ÃüµÄÒªÁ죬ͬʱͨ¹ý¿ÉÚ¹ÊÍÐÔÑо¿Ñ°ÕÒÀàËÆÈËÀàÒâʶµÄ¼Ü¹¹ÌØÕ÷¡£