+
    ƒ°ñjR4  ã                   ó  € ^ RI t ^ RI Ht ^ RIt^ RIt^ RIt^ RIt^ RIt^ RIt^ RI	H
t
HtHtHtHtHt ^ RIHt ^ RIHtHtHt  ! R R]P,                  4      t ! R R	]P,                  4      t ! R
 R]P,                  4      tR# )é    N)Únn)ÚEmbedNDÚ	LastLayerÚMLPEmbedderÚ
ModulationÚmodulated_normÚtimestep_embedding)Úapply_rope1)ÚAttentionTensorContainerÚComfyAttentionÚoptimized_attentionc                   ó<   a a€ ] tR t^t oRV 3R lltR tRtVtV ;t# )ÚQKNormc                óˆ   <€ \         SV `  4        VP                  VR W#R7      V n        VP                  VR W#R7      V n        R# )ç�íµ ÷Æ°>)ÚepsÚdtypeÚdeviceN)ÚsuperÚ__init__ÚRMSNormÚ
query_normÚkey_norm)ÚselfÚdimr   r   Ú
operationsÚ	__class__s   &&&&&€Ú9C:\Ai_Coding\apps\studio\ComfyUI\comfy\ldm\flux3\model.pyr   ÚQKNorm.__init__   s@   ø€ Ü‰ÑÔØ$×,Ñ,¨S°dÀ%Ð,ÓWˆŒØ"×*Ñ*¨3°DÀÐ*ÓUˆŽó    c                ó¢  € \         P                  P                  '       d7   \        V P	                  V4      V4      \        V P                  V4      V4      3# \         P                  P                  V P                  VR R7      w  rEp\         P                  P                  V P
                  VR R7      w  rup\         P                  P                  P                  WW4WpP                  P                  4      w  r\         P                  P                  V P                  VRV4       \         P                  P                  V P
                  VRV4       W3# )T)ÚoffloadableN)ÚcomfyÚmodel_managementÚin_trainingr
   r   r   ÚopsÚcast_bias_weightÚ	quant_opsÚckÚrms_roper   Úuncast_bias_weight)	r   ÚqÚkÚpeÚq_scaleÚ_Úq_streamÚk_scaleÚk_streams	   &&&&     r   ÚforwardÚQKNorm.forward   sô   € Ü×!Ñ!×-×-Ð-Ü˜tŸ™¨qÓ1°2Ó6¼ÀDÇMÁMÐRSÓDTÐVXÓ8YÐYÐYÜ$Ÿy™y×9Ñ9¸$¿/¹/È1ÐZ^Ð9Ó_Ñˆ�HÜ$Ÿy™y×9Ñ9¸$¿-¹-ÈÐX\Ð9Ó]Ñˆ�HÜ�‰×!Ñ!×*Ñ*¨1°¸gÇÁ×GZÑGZÓ[‰ˆÜ�	‰	×$Ñ$ T§_¡_°g¸tÀXÔNÜ�	‰	×$Ñ$ T§]¡]°G¸TÀ8ÔLØˆtˆr    )r   r   )NNN©	Ú__name__Ú
__module__Ú__qualname__Ú__firstlineno__r   r4   Ú__static_attributes__Ú__classdictcell__Ú__classcell__©r   Ú__classdict__s   @@r   r   r      s   ù‡ € ÷V÷
ò r    r   c                   óB   a a€ ] tR t^ t oRV 3R llt/ 3R ltRtVtV ;t# )ÚBlockc                ór  <€ \         S	V `  4        \        4       V n        W n        W@n        \        W,          4      pV'       d#   VP                  V^V,          RWVR7      V n        MKVP                  WRWVR7      V n	        VP                  WRWVR7      V n
        VP                  WRWVR7      V n        VP                  V^V,          RWVR7      V n        VP                  WRWVR7      V n        VP                  W�RWVR7      V n        \        W,          WVVR7      V n        VP#                  VRRWVR7      V n        R# )é   F©Úbiasr   r   )r   r   r   r   )Úelementwise_affiner   r   r   N)r   r   r   Úcomfy_attentionÚ	num_headsÚ	fused_qkvÚintÚLinearÚqkvÚq_projÚk_projÚv_projÚmlp_inÚattn_outÚmlp_outr   ÚnormÚ	LayerNormÚpre_norm)
r   Úhidden_sizerH   Ú	mlp_ratiorI   r   r   r   Úmlp_hidden_dimr   s
   &&&&&&&& €r   r   ÚBlock.__init__"   s'  ø€ Ü‰ÑÔÜ-Ó/ˆÔØ"ŒØ"ŒÜ˜[Õ4Ó5ˆßà!×(Ñ(¨°a¸+µoÈEÐY^Ð(ÓnˆD�Hà$×+Ñ+¨KÈ5ÐX]Ð+ÓmˆDŒKØ$×+Ñ+¨KÈ5ÐX]Ð+ÓmˆDŒKØ$×+Ñ+¨KÈ5ÐX]Ð+ÓmˆDŒKØ ×'Ñ'¨°Q¸Õ5GÈeÐ[`Ð'ÓpˆŒØ"×)Ñ)¨+ÈÐV[Ð)ÓkˆŒØ!×(Ñ(¨È5ÐX]Ð(ÓmˆŒÜ˜;Õ3¸5Ð\fÔgˆŒ	Ø"×,Ñ,¨[ÈUÐX\ÐdiÐ,ÓyˆŽr    c                óº  € VP                   w  rVpV^ ,          ^,          p\        WP                  VP                  VP                  4      p	VR,           FB  w  r«p\        VRW«13,          V P                  VP                  VP                  4      V	RW«13&   KD  	  V P
                  '       d'   V P                  V	4      P                  ^RR7      w  rÍpM2V P                  V	4      V P                  V	4      V P                  V	4      rípV P                  V	4      p?	V P                  VP                  WVV P                  R4      VP                  WVV P                  R4      V4      w  rÍ\        VP!                  ^4      4      \        VP!                  ^4      4      \        V4      rípV P#                  \%        WÍWàP                  W@P&                  R7      4      p\(        P*                  P-                  V P.                  VRVVP1                  VP                   R,          4      R7      p?V F6  w  r«pVRW«13,          P3                  VRW«13,          VP4                  4       K8  	  V# )r   ºé   NNºNNN©r   )Útransformer_optionsÚpreferred_attentionÚswiglu)ÚresidualÚresidual_scaleéÿÿÿÿ)Úshaper   rU   ÚscaleÚshiftrI   rL   ÚchunkrM   rN   rO   rP   rS   ÚviewrH   r   ÚflattenrQ   r   rG   r#   r&   Úlinear_input_actrR   Únew_onesÚaddcmul_Úgate)r   ÚxÚspansr.   r_   ÚBÚNr0   ÚmodÚx_modÚstartÚendr,   r-   ÚvÚmlpÚouts   &&&&&            r   r4   ÚBlock.forward5   sú  € à—'‘'‰ˆˆaØ�A�h�q�kˆÜ˜q§-¡-°·±¸C¿I¹IÓFˆØ$ RŸy˜y‰OˆE˜Ü"0°°1°e°i°<µÀ$Ç-Á-ÐQT×QZÑQZÐ\_×\eÑ\eÓ"fˆE�!�U�Y�,Óñ  )ð �>�>ˆ>Ø—h‘h˜u“o×+Ñ+¨A°2Ð+Ó6‰GˆA‘!à—k‘k %Ó(¨$¯+©+°eÓ*<¸d¿k¹kÈ%Ó>P�!ˆAØ�k‰k˜%Ó ˆØØ�y‰y˜Ÿ™  d§n¡n°bÓ9¸1¿6¹6À!ÈÏÉÐXZÓ;[Ð]_Ó`‰ˆÜ*¨1¯9©9°Q«<Ó8Ô:RÐST×S\ÑS\Ð]^ÓS_Ó:`ÔbzÐ{|Ób}ˆaˆØ�m‰mÔ/°°a¿¹Ð]p÷  G[ñ  G[ô  \ó  ]ˆä�i‰i×(Ñ(¨¯©°s¸HÈsÐcf×coÑcoÐps×pyÑpyÐz|Õp}Óc~Ð(ÓˆØã$‰OˆE˜Øˆa��ˆl�O×$Ñ$ S¨¨E¨I¨Õ%6¸¿¹ÖAñ  %àˆr    )rQ   rG   rI   rN   rP   rR   rS   rH   rU   rM   rL   rO   )FNNNr6   r>   s   @@r   rA   rA       s   ù‡ € ÷zð& 9;÷ ô r    rA   c                   ó„   a a€ ] tR t^Ot oRV 3R lltR tR tR tR tRR/ 3R lt	RR/ 3R lt
RR/ RRR3R	 ltR
tVtV ;t# )ÚFlux3Nc                ó(  <aaaaa	a
€ \         SV `  4        SV n        ^€V n        RV n        W`n        Rp\        SS,          R. ROR7      V n        \        P                  ! V Uu/ uF#  qÌS
P                  V P                  SRSS	R7      bK%  	  up4      V n        S
P                  RSRSS	R7      V n        \        RSRSS	S
R	7      V n        V'       d   \        RSRSS	S
R	7      V n        V	VVV
3R
 lp\        P                  ! VR,            Uu/ uF
  qÌV! 4       bK  	  up4      V n        \        P                  ! VR,            Uu/ uF
  qÌV! 4       bK  	  up4      V n        V	VVVVV
3R lp\        P                  ! V UUu/ uF6  qÌ\        P$                  ! \'        V4       Uu. uF	  qþ! 4       NK  	  up4      bK8  	  upp4      V n        \        P$                  ! \'        V4       Uu. uF	  qþ! 4       NK  	  up4      V n        \        P$                  ! \'        V4       Uu. uF	  qþ! 4       NK  	  up4      V n        \        P                  ! R\/        S^V P                  RSS	S
R	7      /4      V n        R# u upi u upi u upi u upi u uppi u upi u upi )é€   g      à?Úimagei'  )r   ÚthetaÚaxes_dimFrD   i P  é   )rE   r   r   r   c            	      ó&   <€ \        SR R SS SR7      # )F)ÚdoublerE   r   r   r   )r   )r   r   rV   r   s   €€€€r   Ú<lambda>Ú Flux3.__init__.<locals>.<lambda>`   s   ø€ œZ¨¸EÈÐUZÐcið  wAõ  Br    c            
      ó(   <€ \        SSR SSS SR7      # )g      @)rI   r   r   r   )rA   )r   r   rI   rV   rH   r   s   €€€€€€r   r…   r†   d   s    ø€ œ˜k¨9°cÀYÐV[Ðdjð  xBõ  Cr    N)r   Ú
image_cond)é    r‰   r‰   r‰   )Útxt)r   r   r   Úin_channelsÚimage_rope_scaleÚflow_mapr   Úpe_embedderr   Ú
ModuleDictrK   Úemb_inÚtxt_inr   Útime_inÚref_time_inÚearly_stream_modulationsÚsingle_stream_modulationsÚ
ModuleListÚrangeÚcontent_mode_blocksÚtxt_mode_blocksÚsingle_blocksr   Úfinal_layer)r   rV   rH   ÚdepthÚdepth_single_blocksrI   r�   Úimage_modelr   r   r   Úcontent_modesÚmÚ
modulationÚblockr0   r   s   &ff&&f&&fff     €r   r   ÚFlux3.__init__P   sh  þ€ Ü‰ÑÔØˆŒ
ØˆÔØ #ˆÔØ ŒØ/ˆä" {°iÕ'?ÀuÒWgÔhˆÔÜ—m’mñ  KXó  %Yñ  KXð  FG¨
×(9Ñ(9¸$×:JÑ:JÈKÐ^cÐkpÐyÐ(9ó  )Aò  &Añ  KXñ  %Yó  ZˆŒØ ×'Ñ'¨¨{ÀÈeÐ\bÐ'ÓcˆŒÜ" 3¨¸%ÀuÐU[ÐhrÔsˆŒßä*¨3°À%ÈuÐ]cÐpzÔ{ˆDÔ÷ Bˆ
Ü(*¯ªÐP]Ð`hÖPhÓ6iÑPhÈ1¹*»,²ÑPhÑ6iÓ(jˆÔ%Ü)+¯ªÐQ^ÐaiÖQiÓ7jÑQiÈA¹:»<ºÑQiÑ7jÓ)kˆÔ&÷ Cñ  CˆÜ#%§=¢=ÑmzÔ1{ÑmzÐhi´R·]²]ÔUZÐ[`ÔUaÓCbÑUaÐPQÀEÆGÑUaÑCbÓ5cÒ2cÑmzÒ1{Ó#|ˆÔ Ü!Ÿ}š}¼uÀU¼|Ó-L¹|¸!¨e®g¹|Ñ-LÓMˆÔÜŸ]š]¼UÐCVÔ=WÓ+XÑ=W¸¨E®GÑ=WÑ+XÓYˆÔÜŸ=š=¨'´9¸[È!ÈT×M]ÑM]ÐdiÐqvð  @Fð  S]ô  4^ð  *_ó  `ˆÖùò %Yùò 7jùÚ7jùò DcùÓ1{ùÚ-LùÚ+Xs6   Á#)I0ÄI5ÅI:Å>"J
Æ I?Æ/J
Ç$J
ÈJÉ?J
c                ó‚  € \         P                  ! W^V\         P                  R7      p\         P                  ! W\         P                  R7      R,          V P                  ,          VR&   \         P                  ! W$\         P                  R7      R,          V P                  ,          VR&   W5R&   VP                  ^ ^4      # )é   ©r   r   )r]   N).r\   )Nr]   ).é   ).rC   )ÚtorchÚzerosÚfloat32ÚarangerŒ   rj   )r   ÚhÚwÚindexr   Úidss   &&&&& r   Ú	image_idsÚFlux3.image_idsj   s„   € ä�kŠk˜! ¨&¼¿¹ÔFˆÜ—l’l 1¼5¿=¹=ÔIÈ'ÕRÐUY×UjÑUjÕjˆˆF‰Ü—l’l 1¼5¿=¹=ÔIÈ'ÕRÐUY×UjÑUjÕjˆˆF‰ØˆF‰Ø�{‰{˜1˜aÓ Ð r    c                ó°   € \         P                  ! \        V4       UUUu. uF"  w  pw  rEV P                  WERV,
          V4      NK$  	  uppp4      # u upppi )r\   rd   )r¨   ÚcatÚ	enumerater°   )r   Ú
ref_shapesr   Úir¬   r­   s   &&&   r   Úref_idsÚFlux3.ref_idsr   sC   € Ü�yŠyÔPYÐZdÔPeÕfÑPeÁ9À1ÁfÀq˜$Ÿ.™.¨¨r°A­v°vÖ>ÑPeÓfÓgÐgùÔfs    (Ac                ó¨   € \         P                  ! V^V\         P                  R7      p\         P                  ! W\         P                  R7      VR&   V# )r¥   r¦   )r]   rC   )r¨   r©   rª   r«   )r   Úlengthr   r¯   s   &&& r   Útext_idsÚFlux3.text_idsu   s7   € Ü�kŠk˜& !¨F¼%¿-¹-ÔHˆÜ—L’L ¼e¿m¹mÔLˆˆD‰	Øˆ
r    c                ó~   € V P                  VP                  ^ 4      4      P                  ^^4      P                  4       # )r   )rŽ   Ú	unsqueezeÚ	transposeÚ
contiguous)r   r¯   s   &&r   ÚropeÚ
Flux3.ropez   s2   € Ø×Ñ §¡¨aÓ 0Ó1×;Ñ;¸A¸qÓA×LÑLÓNÐNr    c                óÌ  € VP                   pV'       d’   \        VP                  ^ ,          .V Uu. uF  qfP                  ^ ,          NK  	  up,           4      p\        P                  P                  W4      pV Uu. uF"  p\        P                  P                  Wg4      NK$  	  ppV P                  \        VP                  ^4      R4      4      pVe	   Wƒ,           pV P                  V4      p	V	RV P                  V	P                  ^,          V4      V P                  3.p
RpV'       d°   V P                  R,          ! \        P                  ! V Uu. uF#  qfP                  ^4      P!                  ^^4      NK%  	  up^R7      4      pT
P#                  TRT P%                  V Uu. uF  qfP                  RR NK  	  upV4      V P&                  R,          34       \        P(                  P+                  V
 UUUu. uF  Ev rÍV F  qîNK  	  K  	  upppWT4      pV
 FŒ  w  ppppV P,                  V,          ! V4      ^ ,          pV P/                  V4      pV FM  p\        P(                  P1                  WõVVP2                  4       V! V^ VP                  ^,          V3.V4       KO  	  KŽ  	  \        P(                  P1                  WõR4       W›3# u upi u upi u upi u upi u upppi )r   r‚   NrŠ   rˆ   r^   éþÿÿÿ)r   Úmaxre   r#   ÚutilsÚrepeat_to_batch_sizer’   r	   Ú	new_zerosr‘   r»   r™   r�   r¨   r³   rj   r¿   Úappendr·   r˜   Úmodel_prefetchÚmake_prefetch_queuer”   rÁ   Úprefetch_queue_popr   )r   ÚcontextÚref_latentsÚ
vec_targetr_   r   ÚrefÚbatchÚvecrŠ   ÚstreamsÚrefsr0   Úblocksr¢   Úprefetch_queueÚtokensÚmoder¯   rs   r.   s   &&&&&                r   Úpreprocess_condsÚFlux3.preprocess_conds}   s€  € à—‘ˆßä˜Ÿ™ qÕ)Ð*ÁkÓ-RÁk¸s¯i©i¸¯l¨lÁkÑ-RÕRÓSˆEÜ—k‘k×6Ñ6°wÓFˆGÙS^Ó_ÑS^ÈCœ5Ÿ;™;×;Ñ;¸CÖGÑS^ˆKÐ_Ø�l‰lÔ-¨g×.?Ñ.?ÀÓ.BÀCÓHÓIˆØÒ!ØÕ"ˆCØ�k‰k˜'Ó"ˆØ˜ §¡¨c¯i©i¸­l¸FÓ CÀT×EYÑEYÐZÐ[ˆØˆßØ—;‘;˜|Ö,¬U¯YªYÑbmÓ7nÑbmÐ[^¿¹ÀA»×8PÑ8PÐQRÐTUÖ8VÑbmÑ7nÐtuÔ-vÓwˆDØ�N‰N˜D ,°·±ÑXcÓ=dÑXcÐQT¿i¹iÈÈ»nÑXcÑ=dÐflÓ0mÐos÷  pHñ  pHð  IUõ  pVð  Wô  XÜ×-Ñ-×AÑAÑ[bÕBwÑ[bÉZÈaÓpvÐglÂ5ÑpvÁ5Ñ[bÓBwÐyó  VˆÛ)0Ñ%ˆF�D˜#˜vØ×/Ñ/°Ö5°cÓ:¸1Õ=ˆCØ—‘˜3“ˆBÛ�Ü×$Ñ$×7Ñ7¸ÐPUÐW]×WcÑWcÔdÙ�f  6§<¡<°¥?°CÐ8Ð9¸2Ö>ó  ñ *1ô 	×Ñ×/Ñ/°ÈÔMØˆyÐùò) .Sùâ_ùò 8oùÚ=dùÜBws   ±K
Á<(KÅ)KÆ"KÇ7Kc                ó  € \         P                  P                  P                  V P                  V \         P                  P                  \         P                  P                  P                  V4      4      P                  ! WW4V3/ VB # )N)	r#   Úpatcher_extensionÚWrapperExecutorÚnew_class_executorÚ_forwardÚget_all_wrappersÚ
WrappersMPÚDIFFUSION_MODELÚexecute)r   ro   ÚtimesteprÍ   rÎ   r_   Úkwargss   &&&&&&,r   r4   ÚFlux3.forward˜   s~   € Ü×&Ñ&×6Ñ6×IÑIØ�M‰MØÜ×#Ñ#×4Ñ4´U×5LÑ5L×5WÑ5W×5gÑ5gÐi|Ó}ó
÷ ‰'ð	ð ˜wÐ5Hñ	Tð MSñ	Tð 	Tr    c	                ó  € VP                   w  r«rÍVP                  VP                  rþR pV P                  '       d«   VR,          p\	        VV^ ,          ,
          P                  4       P                  4       4      pV\        V^,           VP                   ^ ,          ^,
          4      ,          pV P                  \        VP                  ^4      P                  WþR7      R4      4      pVf?   V P                  W4VV4      w  rgV'       d    V Uu. uF  pVP                   RR  NK  	  upMR pVP                  4       pV P                  \        \        P                   ! W"P#                  ^4      .4      P                  V4      R4      4      pVe
   VV,           pVR R VRR  ppV P$                  R,          ! V4      ^ ,          pV P&                  R,          ! VP)                  ^4      P+                  ^^4      4      pVRV P-                  WÍ^ V4      3.pVe$   VP/                  VRV P1                  W�4      34       VP/                  VRV P3                  VP                   ^,          V4      34       T P5                  \        P                   ! V UUu. uF	  w   ppVNK  	  upp4      4      p. ^ ppV Ft  w  pp pTP/                  TVVP                   ^,          ,           V P6                  V ,          ! V R8X  d   TMT4      ^ ,          34       VVP                   ^,          ,          pKv  	  \        P8                  ! V
VVP                   R,          VVP                  R7      p\;        V P<                  R,          4      \;        V P>                  4      ,           p!\@        PB                  PE                  V!Wõ4      p"\@        PB                  PG                  V4       V P<                  R,           FM  p#\@        PB                  PI                  V"VV#VRR7       V#! V^ WÍ,          V3.VR	R WÍ,          13,          V4      pKO  	  \        P                   ! V.VR
,           UUu. uF	  w  p pVNK  	  upp,           ^VR7       ??\K        V P>                  4      VR&   RVR&   \M        V P>                  4       F:  w  pp#\@        PB                  PI                  V"VV#VRR7       VVR&   V#! VVVV4      pK<  	  \@        PB                  PI                  V"VR RR7       \@        PB                  PO                  4        V PP                  R,          ! VR	R WÍ,          13,          V4      p$V$P+                  ^^4      P                  W PR                  WÍ4      # u upi u uppi u uppi )NÚsample_sigmasr¦   r‚   r   rˆ   rŠ   r¢   )Úmalloc_scoper]   r[   )r   ry   Útotal_blocksÚsingleÚ
block_typeÚblock_indexrÄ   rd   )*re   r   r   r�   rJ   ÚabsÚargminÚminr“   r	   ÚreshapeÚtorÙ   Úcopyr’   r¨   r³   rÈ   r”   r�   rj   r¿   r°   rÉ   r·   r»   rÁ   r•   ÚemptyÚlistr˜   rš   r#   rÊ   rË   Úmalloc_graph_beginrÌ   Úlenr´   Úmalloc_graph_endr›   r‹   )%r   ro   rä   rÍ   rÎ   r_   Ú
txt_statesÚ
ref_statesrµ   rå   rq   r0   ÚHÚWr   r   rÏ   rè   r¶   ÚtargetrÐ   rÒ   Úvec_imgÚvec_zeroÚearlyÚimgÚpartsr¯   r.   rp   ru   r×   rØ   ÚqueuerÖ   r¢   ry   s%   &&&&&&&&&,                           r   rß   ÚFlux3._forwardŸ   sÔ  € Ø—W‘W‰
ˆˆaØŸ™ §¡ˆvØˆ
Ø�=�=ˆ=à/°Õ@ˆMÜ�] X¨a¥[Õ0×5Ñ5Ó7×>Ñ>Ó@ÓAˆAØ"¤3 q¨1¥u¨m×.AÑ.AÀ!Õ.DÀqÕ.HÓ#IÕJˆFØ×)Ñ)Ô*<¸V¿^¹^ÈAÓ=N×=QÑ=QÐY_Ð=QÓ=mÐorÓ*sÓtˆJð ÒØ%)×%:Ñ%:¸7ÐQ[Ð]pÓ%qÑ"ˆJßDO±KÓ@±K¨S˜#Ÿ)™) B C›.±KÒ@ÐUYˆJØ1×6Ñ6Ó8Ðð �l‰lÔ-¬e¯iªi¸×CUÑCUÐVWÓCXÐ8YÓ.Z×.]Ñ.]Ð^cÓ.dÐfiÓjÓkˆØÒ!Ø˜
Õ"ˆCØ  ˜H c¨"¨# h�ˆØ×-Ñ-¨gÖ6°wÓ?ÀÕBˆð �k‰k˜'Ö" 1§9¡9¨Q£<×#9Ñ#9¸!¸QÓ#?Ó@ˆØ�w §¡¨q°Q¸Ó ?Ð@ÐAˆØÒ!Ø�L‰L˜* l°D·L±LÀÓ4TÐUÔVØ�‰�j %¨¯©°z×7GÑ7GÈÕ7JÈFÓ)SÐTÔUØ�Y‰Y”u—y’y±uÔ!=±u©)¨!¨Q°£#±uÒ!=Ó>Ó?ˆØ˜1ˆuˆÛ$‰OˆF�D˜!Ø�L‰L˜% ¨¯©°a­Õ!8¸$×:XÑ:XÐY]Ö:^ÐjnÐryÔjyÑ_fð  @Hó  ;Ið  JKõ  ;Lð  Mô  NØ�V—\‘\ !•_Õ$ŠEñ  %ô �KŠK˜˜5 #§)¡)¨B¥-¸ÀcÇiÁiÔPˆä�T×-Ñ-¨gÕ6Ó7¼$¸t×?QÑ?QÓ:RÕRˆÜ×-Ñ-×AÑAÀ%ÈÓeˆÜ×Ñ×/Ñ/°Ô7Ø×-Ñ-¨g×6Ð6ˆEÜ× Ñ ×3Ñ3°NÀFÈEÐSXÐgnÐ3ÔoÙ˜˜q !¥%¨Ð/Ð0°"°Q¸¸½¸°Yµ-ÐATÓUŠCñ 7ô 	�	Š	�3�%°e¸B¶iÔ@±i¡l f¨a°›6±iÒ@Õ@ÀaÈQÕOØ�Ü.1°$×2DÑ2DÓ.EÐ˜NÑ+Ø,4Ð˜LÑ)Ü! $×"4Ñ"4Ö5‰HˆAˆuÜ× Ñ ×3Ñ3°NÀFÈEÐSXÐgnÐ3ÔoØ12Ð Ñ.Ù�a˜ Ð$7Ó8ŠAñ 6ô 	×Ñ×/Ñ/°ÀÈÐ[bÐ/ÔcÜ×Ñ×-Ñ-Ô/à×Ñ˜wÖ'¨¨!¨V¨a­e¨V¨)­°gÓ>ˆØ�}‰}˜Q Ó"×*Ñ*¨1×.>Ñ.>ÀÓEÐEùòW Aùó  ">ùó As   Ä
U7ÊU<ÑV)r˜   r   r”   r�   r›   r�   rŒ   r‹   rŽ   r“   rš   r•   r’   r‘   r™   )
i   é   é   é   FFNNNN)r7   r8   r9   r:   r   r°   r·   r»   rÁ   rÙ   r4   rß   r;   r<   r=   r>   s   @@r   r|   r|   O   sc   ù‡ € ÷`ò4!òhòò
Oð 59ÀTÐ_aô ð6 ,0¸TÐWYô Tð -1¸dÐXZÐgkÐx|ð  JN÷ 9Fô 9Fr    r|   )r¨   r   Úcomfy.model_managementr#   Úcomfy.model_prefetchÚ	comfy.opsÚcomfy.patcher_extensionÚcomfy.quant_opsÚcomfy.utilsÚcomfy.ldm.flux.layersr   r   r   r   r   r	   Úcomfy.ldm.flux.mathr
   Úcomfy.ldm.modules.attentionr   r   r   ÚModuler   rA   r|   © r    r   Ú<module>r     sa   ðÛ Ý ã Û Û Û Û Û ß q× qÝ +ß eÑ eôˆR�Y‰Yô ô",ˆB�I‰Iô ,ô^IFˆB�I‰Iö IFr    