+
    ‚°ñjjs ã            	       óº
  € ^ RI t ^ RIHt ^ RIHt ^ RIt^ RIHt ^ RIt^ RIH	t	 ^RI
Ht ^RI
Ht ^RI
Ht ^ RIt^ RIt^ RIt^ R	IHt R
 tRXR ltRYR ltRZR ltR[R ltR\R ltR tR]R ltR^R lt ! R R4      t ! R R4      tR t R t!R_R lt"R R lt#R R lt$]PJ                  ! 4       RRRRR]&! R 4      R3R! l4       t']PJ                  ! 4       R`R" l4       t(]PJ                  ! 4       R`R# l4       t)]PJ                  ! 4       RRRRR]&! R 4      R3R$ l4       t*]PJ                  ! 4       RRRRR]&! R 4      R3R% l4       t+]PJ                  ! 4       R`R& l4       t,]PJ                  ! 4       R`R' l4       t-R( t.RaR) lt/RbR* lt0]PJ                  ! 4       RcR+ l4       t1 ! R, R-4      t2 ! R. R/]Pf                  4      t4]PJ                  ! 4       RdR0 l4       t5]PJ                  ! 4       ReR1 l4       t6]PJ                  ! 4       R`R2 l4       t7]PJ                  ! 4       R`R3 l4       t8]PJ                  ! 4       RfR4 l4       t9]PJ                  ! 4       RbR5 l4       t:]PJ                  ! 4       RgR6 l4       t;]PJ                  ! 4       RhR7 l4       t<]PJ                  ! 4       R`R8 l4       t=]PJ                  ! 4       R`R9 l4       t>]PJ                  ! 4       RhR: l4       t?]PJ                  ! 4       RgR; l4       t@]PJ                  ! 4       RfR< l4       tAR= tBRiR> ltC]PJ                  ! 4       RjR? l4       tD]PJ                  ! 4       RkR@ l4       tE]PJ                  ! 4       RRRRR]&! R 4      R3RA l4       tFRcRB ltGRcRC ltH]PJ                  ! 4       RlRD l4       tI]PJ                  ! 4       R`RE l4       tJ]PJ                  ! 4       RbRF l4       tK]PJ                  ! 4       R`RG l4       tL]PJ                  ! 4       RbRH l4       tM]PJ                  ! 4       RmRI l4       tN]PJ                  ! 4       RnRJ l4       tO]PJ                  ! 4       RnRK l4       tP]PJ                  ! 4       R`RL l4       tQ]PJ                  ! 4       R`RM l4       tR]PJ                  ! 4       RoRN l4       tS]PJ                  ! 4       RpRO l4       tT]PJ                  ! 4       RqRP l4       tU]PJ                  ! 4       RrRQ l4       tV]PJ                  ! 4       RsRR l4       tW]PJ                  ! 4       RtRS l4       tX]PJ                  ! 4       RuRT l4       tY]PJ                  ! 4       RvRU l4       tZ]PJ                  ! 4       RwRV l4       t[]PJ                  ! 4       RxRW l4       t\R# )yé    N)Úpartial)Ú	integrate)Únn)Útqdm)Úutils)Údeis)Ú	sa_solver)Úmodel_trangec                 óP   € \         P                  ! W P                  ^.4      .4      # ©é   )ÚtorchÚcatÚ	new_zeros©Úxs   &Ú>C:\Ai_Coding\apps\studio\ComfyUI\comfy\k_diffusion\sampling.pyÚappend_zeror      s   € Ü�9Š9�aŸ™ a SÓ)Ð*Ó+Ð+ó    c                óà   € \         P                  ! ^ ^WR7      pV^V,          ,          pV^V,          ,          pWuWg,
          ,          ,           V,          p\        V4      P                  V4      # )z6Constructs the noise schedule of Karras et al. (2022).©Údevice)r   Úlinspacer   Úto)	ÚnÚ	sigma_minÚ	sigma_maxÚrhor   ÚrampÚmin_inv_rhoÚmax_inv_rhoÚsigmass	   &&&&&    r   Úget_sigmas_karrasr#      s[   € ä�>Š>˜!˜Q Ô1€DØ  C¥Õ(€KØ  C¥Õ(€KØ KÕ$=Õ>Õ>À3ÕF€FÜ�vÓ×!Ñ! &Ó)Ð)r   c                ó¶   € \         P                  ! \        P                  ! V4      \        P                  ! V4      WR7      P	                  4       p\        V4      # )z)Constructs an exponential noise schedule.r   )r   r   ÚmathÚlogÚexpr   )r   r   r   r   r"   s   &&&& r   Úget_sigmas_exponentialr(       s:   € ä�^Š^œDŸHšH YÓ/´·²¸)Ó1DÀaÔW×[Ñ[Ó]€FÜ�vÓÐr   ç      ð?c                ó&  € \         P                  ! ^^ WR7      V,          p\         P                  ! V\        P                  ! V4      \        P                  ! V4      ,
          ,          \        P                  ! V4      ,           4      p\        V4      # )z5Constructs an polynomial in log sigma noise schedule.r   )r   r   r'   r%   r&   r   )r   r   r   r   r   r   r"   s   &&&&&  r   Úget_sigmas_polyexponentialr+   &   s]   € ä�>Š>˜!˜Q Ô1°SÕ8€DÜ�YŠY�tœtŸxšx¨	Ó2´T·X²X¸iÓ5HÕHÕIÌDÏHÊHÐU^ÓL_Õ_Ó`€FÜ�vÓÐr   c                óò   € \         P                  ! ^W0VR7      p\         P                  ! \         P                  P	                  W^,          ,          ^,          W%,          ,           4      4      p\        V4      # )z*Constructs a continuous VP noise schedule.r   )r   r   ÚsqrtÚspecialÚexpm1r   )r   Úbeta_dÚbeta_minÚeps_sr   Útr"   s   &&&&&  r   Úget_sigmas_vpr4   -   sN   € ä�Š�q˜%¨6Ô2€AÜ�ZŠZœŸ™×+Ñ+¨F¸!µV­O¸aÕ,?À(Å,Õ,NÓOÓP€FÜ�vÓÐr   ç        c           
     óp  aa€ Rp\         P                  ! ^ ^WR7      pVV3R lpW4\         P                  ! RV,
          4      ,          \         P                  ! ^^\         P                  ! RV,
          4      ,          ,
          V,           4      ,          ,
          p	V! \         P
                  ! V	4      4      p
V
# )zAConstructs the noise schedule proposed by Tiankai et al. (2024). çñhãˆµøä>r   c                 ó6   <€ \         P                  ! V SSR 7      # )©ÚminÚmax)r   Úclamp)r   r   r   s   &€€r   Ú<lambda>Ú$get_sigmas_laplace.<locals>.<lambda>8   s   ø€ ”e—k’k !¨¸	ÕBr   ç      à?)r   r   Úsignr&   Úabsr'   )r   r   r   ÚmuÚbetar   Úepsilonr   r<   Úlmbr"   s   &ff&&&     r   Úget_sigmas_laplacerF   4   sz   ù€ à€GÜ�Š�q˜!˜QÔ.€AÝB€EØ
”e—j’j  Q¥Ó'Õ'¬%¯)ª)°A¸¼E¿IºIÀcÈ!ÅeÓ<LÕ8LÕ4LÈwÕ4VÓ*WÕWÕ
W€CÙ”5—9’9˜S“>Ó"€FØ€Mr   c                ó\   € W,
          \         P                  ! WP                  4      ,          # )z6Converts a denoiser output to a Karras ODE derivative.)r   Úappend_dimsÚndim)r   ÚsigmaÚdenoiseds   &&&r   Úto_drL   ?   s   € à�LœE×-Ò-¨e·V±VÓ<Õ<Ð<r   c                óð   € V'       g   VR3# \        WV^,          V ^,          V^,          ,
          ,          V ^,          ,          R,          ,          4      pV^,          V^,          ,
          R,          pWC3# )zˆCalculates the noise level (sigma_down) to step down to and the amount
of noise to add (sigma_up) when doing an ancestral sampling step.r5   r?   )r:   )Ú
sigma_fromÚsigma_toÚetaÚsigma_upÚ
sigma_downs   &&&  r   Úget_ancestral_steprS   D   si   € ÷ Ø˜ˆ|ÐÜ�8 H°¥M°ZÀ1µ_ÀxÐSTÅ}Õ5TÕ$UÐXbÐfgÕXgÕ$gÐloÕ#oÕoÓp€HØ˜a•- (¨a¥-Õ/°CÕ7€JØÐÐr   c                 óâ   a a€ Veb   S P                   \        P                   ! R4      8X  d
   V^,          p\        P                  ! S P                   R7      oSP                  V4       MR oVV 3R l# )NÚcpur   c                 ó’   <€ \         P                  ! SP                  4       SP                  SP                  SP
                  SR 7      # ))ÚdtypeÚlayoutr   Ú	generator)r   ÚrandnÚsizerW   rX   r   )rJ   Ú
sigma_nextrY   r   s   &&€€r   r=   Ú'default_noise_sampler.<locals>.<lambda>X   s2   ø€ ¤U§[¢[°·±³ÀÇÁÐQR×QYÑQYÐbc×bjÑbjÐvõ  &Ar   )r   r   Ú	GeneratorÚmanual_seed)r   ÚseedrY   s   f&@r   Údefault_noise_samplerra   N   sX   ù€ ØÒØ�8‰8”u—|’| EÓ*Ô*Ø�A�IˆDä—O’O¨1¯8©8Ô4ˆ	Ø×Ñ˜dÕ#àˆ	õ Að  Ar   c                   óD   a € ] tR t^[t o RtRR lt]R 4       tR tRt	V t
R# )ÚBatchedBrownianTreezGA wrapper around torchsde.BrownianTree that enables batches of entropy.Nc                óJ  aaaa€ SP                  R R4      V n        V P                  SS4      w  ooV n        SP                  RR4      oSf   \        P
                  ! V4      oRV n        Vf)   \        P                  ! ^ RR4      P                  4       3pM\\        V\        \        34      '       d>   \        V4      VP                  ^ ,          8w  d   \        R4      hRV n        S^ ,          oMV3pV P                  '       d\   SP                  4       P!                  4       SP                  4       P!                  4       SP                  4       P!                  4       uooo\        ;QJ d!    . VVVV3R lV 4       F  NK  	  5V n        R# ! VVVV3R lV 4       4      V n        R# )	rU   TÚw0NFzbPassing a list or tuple of seeds to BatchedBrownianTree requires a length matching the batch size.c              3   óZ   <"  € T F   p\         P                  ! SSS3R V/SB x € K"  	  R# 5i)ÚentropyN)ÚtorchsdeÚBrownianTree)Ú.0ÚsÚkwargsÚt0Út1re   s   & €€€€r   Ú	<genexpr>Ú/BatchedBrownianTree.__init__.<locals>.<genexpr>p   s-   øé € Ð`Ñ[_ÐVWœ8×0Ò0°°R¸ÑQÀQÐQÈ&ÖQÓ[_ùs   ƒ(+l   ÿÿÿÿ © )ÚpopÚcpu_treeÚsortr@   r   Ú
zeros_likeÚbatchedÚrandintÚitemÚ
isinstanceÚtupleÚlistÚlenÚshapeÚ
ValueErrorÚdetachrU   Útrees)Úselfr   rm   rn   r`   rl   re   s   &&ff&l@r   Ú__init__ÚBatchedBrownianTree.__init__^   s3  û€ ØŸ
™
 5¨$Ó/ˆŒØ ŸI™I b¨"Ó-ÑˆˆB�”	Ø�Z‰Z˜˜dÓ#ˆØŠ:Ü×!Ò! !Ó$ˆBØˆŒØŠ<Ü—M’M ! [°"Ó5×:Ñ:Ó<Ð>‰DÜ˜œu¤d˜m×,Ò,Ü�4‹y˜AŸG™G A�JÔ&Ü ð  "Fó  Gð  GØˆDŒLØ�A•‰Bà�7ˆDØ�=�=ˆ=ØŸ™›Ÿ™Ó*¨B¯I©I«K¯O©OÓ,=¸r¿y¹y»{¿¹Ó?PˆJˆB��Bß”U×`Ñ[_Ó`—UˆŽ
�U×`Ñ[_Ó`Ó`ˆŽ
r   c                ó   € W8  d   W^3# WR3# ©r   éÿÿÿÿrq   )ÚaÚbs   &&r   rt   ÚBatchedBrownianTree.sortr   s   € àœE��aˆyÐ1¨¨b zÐ1r   c           	     ó(  € V P                  W4      w  rpVP                  VP                  rTV P                  '       dX   VP	                  4       P                  4       P                  4       VP	                  4       P                  4       P                  4       r!\        P                  ! V P                   Uu. uF
  qf! W4      NK  	  up4      P                  WER 7      V P                  V,          ,          pV P                  '       d   V# V^ ,          # u upi )©r   rW   )rt   r   rW   rs   r   rU   Úfloatr   Ústackr€   r   r@   rv   )r�   rm   rn   r@   r   rW   ÚtreeÚws   &&&     r   Ú__call__ÚBatchedBrownianTree.__call__v   sÀ   € Ø—y‘y Ó(‰ˆ�ØŸ	™	 2§8¡8�Ø�=�=ˆ=Ø—Y‘Y“[—_‘_Ó&×,Ñ,Ó.°·	±	³·±Ó0A×0GÑ0GÓ0I�Ü�KŠK°$·*²*Ó=±*¨$˜˜bž±*Ñ=Ó>×AÑAÈÐAÓ]Ðae×ajÑajÐmqÕaqÕrˆØ—L—L�LˆqÐ* a¨¥dÐ*ùò >s   Â3D)rv   rs   r@   r€   ©N)Ú__name__Ú
__module__Ú__qualname__Ú__firstlineno__Ú__doc__r‚   Ústaticmethodrt   r�   Ú__static_attributes__Ú__classdictcell__©Ú__classdict__s   @r   rc   rc   [   s,   ø‡ € ÙQôað( ñ2ó ð2÷+ð +r   rc   c                   ó<   a € ] tR t^t o RtRR R3R ltR tRtV tR# )ÚBrownianTreeNoiseSampleraG  A noise sampler backed by a torchsde.BrownianTree.

Args:
    x (Tensor): The tensor whose shape, device and dtype to use to generate
        random samples.
    sigma_min (float): The low end of the valid interval.
    sigma_max (float): The high end of the valid interval.
    seed (int or List[int]): The random seed. If a list of seeds is
        supplied instead of a single integer, then the noise sampler will
        use one BrownianTree per batch item, each with its own seed.
    transform (callable): A function that maps sigma to the sampler's
        internal timestep.
Nc                ó   € V # r’   rq   r   s   &r   r=   Ú!BrownianTreeNoiseSampler.<lambda>Ž   s   € Éqr   Fc                óÊ   € WPn         V P                  \        P                  ! V4      4      V P                  \        P                  ! V4      4      r‡\        WW„VR 7      V n        R# )©rU   N)Ú	transformr   Ú	as_tensorrc   rŽ   )	r�   r   r   r   r`   r£   rU   rm   rn   s	   &&&&&&&  r   r‚   Ú!BrownianTreeNoiseSampler.__init__Ž   sC   € Ø"ŒØ—‘¤§¢°	Ó :Ó;¸T¿^¹^ÌEÏOÊOÐ\eÓLfÓ=gˆBÜ'¨¨r¸SÔAˆŽ	r   c                ó  € V P                  \        P                  ! V4      4      V P                  \        P                  ! V4      4      rCV P                  W44      WC,
          P	                  4       P                  4       ,          # r’   )r£   r   r¤   rŽ   rA   r-   )r�   rJ   r\   rm   rn   s   &&&  r   r�   Ú!BrownianTreeNoiseSampler.__call__“   sS   € Ø—‘¤§¢°Ó 6Ó7¸¿¹ÌÏÊÐXbÓHcÓ9dˆBØ�y‰y˜Ó  B¥G§=¡=£?×#7Ñ#7Ó#9Õ9Ð9r   )r£   rŽ   )	r“   r”   r•   r–   r—   r‚   r�   r™   rš   r›   s   @r   rž   rž      s$   ø‡ € ñð 6:Á[ÐV[ô B÷
:ð :r   rž   c                óÎ   € \        V\        P                  P                  4      '       d   V P	                  4       P                  4       # V P                  4       P                  4       # )z4Convert sigma to half-logSNR log(alpha_t / sigma_t).)ry   ÚcomfyÚmodel_samplingÚCONSTÚlogitÚnegr&   )rJ   rª   s   &&r   Úsigma_to_half_log_snrr®   ˜   sC   € ä�.¤%×"6Ñ"6×"<Ñ"<×=Ò=à�{‰{‹}× Ñ Ó"Ð"Ø�9‰9‹;�?‰?ÓÐr   c                óÎ   € \        V\        P                  P                  4      '       d   V P	                  4       P                  4       # V P	                  4       P                  4       # )z4Convert half-logSNR log(alpha_t / sigma_t) to sigma.)ry   r©   rª   r«   r­   Úsigmoidr'   )Úhalf_log_snrrª   s   &&r   Úhalf_log_snr_to_sigmar²       sK   € ä�.¤%×"6Ñ"6×"<Ñ"<×=Ò=à×ÑÓ!×)Ñ)Ó+Ð+Ø×ÑÓ×!Ñ!Ó#Ð#r   c                óâ   € \        V 4      ^8:  d   V # \        V\        P                  P                  4      '       d3   V ^ ,          ^8¼  d%   V P                  4       p VP                  V4      V ^ &   V # )z/Adjust the first sigma to avoid invalid logSNR.)r|   ry   r©   rª   r«   ÚcloneÚpercent_to_sigma)r"   rª   Úpercent_offsets   &&&r   Úoffset_first_sigma_for_snrr·   ¨   s[   € ä
ˆ6ƒ{�aÔØˆÜ�.¤%×"6Ñ"6×"<Ñ"<×=Ò=Ø�!�9˜Œ>Ø—\‘\“^ˆFØ&×7Ñ7¸ÓGˆF�1‰IØ€Mr   c                óX   € V ^8„  d   QhR\         P                  R\         P                  /# ©é   ÚhÚreturn©r   ÚTensor)Úformats   "r   Ú__annotate__rÀ   ³   s"   € ÷ ñ ”%—,‘,ð ¤5§<¡<ñ r   c                ó.   € \         P                  ! V 4      # )zCCompute the result of h*phi_1(h) in exponential integrator methods.©r   r/   ©r»   s   &r   Ú
ei_h_phi_1rÄ   ³   s   € ä�;Š;�q‹>Ðr   c                óX   € V ^8„  d   QhR\         P                  R\         P                  /# r¹   r½   )r¿   s   "r   rÀ   rÀ   ¸   s"   € ÷ $ñ $”%—,‘,ð $¤5§<¡<ñ $r   c                óJ   € \         P                  ! V 4      V ,
          V ,          # )zCCompute the result of h*phi_2(h) in exponential integrator methods.rÂ   rÃ   s   &r   Ú
ei_h_phi_2rÇ   ¸   s   € ä�KŠK˜‹N˜QÕ !Õ#Ð#r   Úinfc
                óØ  € Vf   / MTpVP                  VP                  ^ ,          .4      p
\        \        V4      ^,
          VR7       EF  pV^ 8”  dU   WrV,          u;8:  d   V8:  d'   M M#\	        V\        V4      ^,
          ,          R	4      MRpW+,          V^,           ,          pM
^ pW+,          pV^ 8”  dO   \
        P                  ! V4      V	,          pWV^,          W+,          ^,          ,
          R,          ,          ,           pV ! WV
,          3/ VB p\        WV4      pVe   V! RVRVRW+,          RVRV/4       W+^,           ,          V,
          pVVV,          ,           pEK  	  V# )
z?Implements Algorithm 2 (Euler steps) from Karras et al. (2022).©Údisabler?   r5   r   ÚirJ   Ú	sigma_hatrK   ç4ïü™y‚Ú?©Únew_onesr}   Útranger|   r:   r   Ú
randn_likerL   )Úmodelr   r"   Ú
extra_argsÚcallbackrË   Ús_churnÚs_tminÚs_tmaxÚs_noiseÚs_inrÌ   ÚgammarÍ   ÚepsrK   ÚdÚdts   &&&&&&&&&&        r   Úsample_eulerrß   ½   s<  € ð "Ò)‘¨z€JØ�:‰:�q—w‘w˜q•z�lÓ#€DÜ”C˜“K !•O¨W×5Ð5ˆØ�QŒ;ØFLÐWXÕPYÖFcÐ]c×Fc”C˜¤3 v£;°¥?Õ3°\ÔBÐikˆEØ�	 U¨Q¥YÕ/‰IàˆEØ�	ˆIà�1Œ9Ü×"Ò" 1Ó%¨Õ/ˆCØ˜9¨�>¨F­I¸­NÕ:¸sÕBÕBÕBˆAÙ˜¨Õ,Ñ;°
Ñ;ˆÜ�˜xÓ(ˆØÒÙ�c˜1˜c 1 g¨v­y¸+ÀyÐR\Ð^fÐgÔhØ˜•E�]˜YÕ&ˆà��B•�J‹ñ# 6ð$ €Hr   c	                 ó*  € \        V P                  P                  P                  \        P                  P                  4      '       d   \        WW#WEWgV4	      #  Vf   / MTpVP                  RR 4      p	Vf   \        WR7      MTpVP                  VP                  ^ ,          .4      p
\        \        V4      ^,
          VR7       FÊ  pV ! WV,          V
,          3/ VB p\        W+,          W+^,           ,          VR7      w  rÞVe   V! RVRVRW+,          RW+,          R	V/4       V^ 8X  d   TpKj  \        WV,          V4      pWÒV,          ,
          pWV,          ,           V! W+,          W+^,           ,          4      V,          V,          ,           pKÌ  	  V# )
Nr`   ©r`   rÊ   ©rP   r   rÌ   rJ   rÍ   rK   )ry   Úinner_modelrª   r©   r«   Úsample_euler_ancestral_RFÚgetra   rÐ   r}   rÑ   r|   rS   rL   )rÓ   r   r"   rÔ   rÕ   rË   rP   rÙ   Únoise_samplerr`   rÚ   rÌ   rK   rR   rQ   rÝ   rÞ   s   &&&&&&&&&        r   Úsample_euler_ancestralrç   ×   sY  € ä�%×#Ñ#×/Ñ/×>Ñ>Ä×@TÑ@T×@ZÑ@Z×[Ò[Ü(¨°6ÀxÐZ]ÐhuÓvÐvØ5Ø!Ò)‘¨z€JØ�>‰>˜& $Ó'€DØ;HÒ;PÔ)¨!Õ7ÐVc€MØ�:‰:�q—w‘w˜q•z�lÓ#€DÜ”C˜“K !•O¨W×5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆÜ1°&µ)¸VÈÅE½]ÐPSÔTÑˆ
ØÒÙ�c˜1˜c 1 g¨v­y¸+ÀvÅyÐR\Ð^fÐgÔhà˜Œ?ØŠAä�Q˜q�	 8Ó,ˆAà Q�iÕ'ˆBØ˜•F•
™]¨6­9°fÀ½UµmÓDÀwÕNÐQYÕYÕYŠAñ 6ð €Hr   c	                óF  € Vf   / MTpVP                  RR4      p	Vf   \        WR7      MTpV\        V P                  P                  P                  R4      RR4      ,          pVP                  VP                  ^ ,          .4      p
\        \        V4      ^,
          VR7       EFx  pV ! WV,          V
,          3/ VB pVe   V! RVR	VR
W+,          RW+,          RV/4       W+^,           ,          ^ 8X  d   TpKU  ^W+^,           ,          W+,          ,          ^,
          V,          ,           pW+^,           ,          V,          p^W+^,           ,          ,
          p^V,
          pW+^,           ,          ^,          V^,          V^,          ,          V^,          ,          ,
          R,          pWâV,          ,          pVV,          ^V,
          V,          ,           pV^ 8”  g   EK9  VV,          V,          V! W+,          W+^,           ,          4      V,          V,          ,           pEK{  	  V# )z+Ancestral sampling with Euler method steps.Nr`   rá   rª   Únoise_scaler)   rÊ   r   rÌ   rJ   rÍ   rK   r?   )
rå   ra   Úgetattrrã   Úmodel_patcherÚget_model_objectrÐ   r}   rÑ   r|   )rÓ   r   r"   rÔ   rÕ   rË   rP   rÙ   ræ   r`   rÚ   rÌ   rK   Údownstep_ratiorR   Ú	alpha_ip1Ú
alpha_downÚrenoise_coeffÚsigma_down_i_ratios   &&&&&&&&&          r   rä   rä   ï   sÊ  € ð "Ò)‘¨z€JØ�>‰>˜& $Ó'€DØ;HÒ;PÔ)¨!Õ7ÐVc€MØœ × 1Ñ 1× ?Ñ ?× PÑ PÐQaÓ bÐdqÐsvÓwÕw€GØ�:‰:�q—w‘w˜q•z�lÓ#€DÜ”C˜“K !•O¨W×5Ð5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆàÒÙ�c˜1˜c 1 g¨v­y¸+ÀvÅyÐR\Ð^fÐgÔhà�a•%�=˜AÔØŠAà &¨Q­¥-°&µ)Õ";¸aÕ"?À3Õ!FÕFˆNØ A¥�¨Õ7ˆJØ˜F q¥5�MÕ)ˆIØ˜Z�ˆJØ#¨¥E�]¨AÕ-°
¸AµÀ	È1ÅÕ0LÈzÐ[\Í}Õ0\Õ\Ð_bÕbˆMà!+°Q­iÕ!7ÐØ" QÕ&¨!Ð.@Õ*@ÀHÕ)LÕLˆAØ�Q�wØ Õ+¨qÕ0±=ÀÅÈFÐWXÕSXÍMÓ3ZÐ]dÕ3dÐgtÕ3tÕt“ñ% 6ð& €Hr   c
                ó  € Vf   / MTpVP                  VP                  ^ ,          .4      p
\        \        V4      ^,
          VR7       EF±  pV^ 8”  dU   WrV,          u;8:  d   V8:  d'   M M#\	        V\        V4      ^,
          ,          R	4      MRpW+,          V^,           ,          pM
^ pW+,          pW+,          V^,           ,          pV^ 8”  dO   \
        P                  ! V4      V	,          pWV^,          W+,          ^,          ,
          R,          ,          ,           pV ! WV
,          3/ VB p\        WV4      pVe   V! RVRVRW+,          RVRV/4       W+^,           ,          V,
          pW+^,           ,          ^ 8X  d   VVV,          ,           pEKI  VVV,          ,           pV ! VW+^,           ,          V
,          3/ VB p\        VW+^,           ,          V4      pVV,           ^,          pVVV,          ,           pEK´  	  V# )
z>Implements Algorithm 2 (Heun steps) from Karras et al. (2022).rÊ   r?   r5   r   rÌ   rJ   rÍ   rK   rÎ   rÏ   )rÓ   r   r"   rÔ   rÕ   rË   rÖ   r×   rØ   rÙ   rÚ   rÌ   rÛ   rÍ   rÜ   rK   rÝ   rÞ   Úx_2Ú
denoised_2Úd_2Úd_primes   &&&&&&&&&&            r   Úsample_heunr÷     s´  € ð "Ò)‘¨z€JØ�:‰:�q—w‘w˜q•z�lÓ#€DÜ”C˜“K !•O¨W×5Ð5ˆØ�QŒ;ØFLÐWXÕPYÖFcÐ]c×Fc”C˜¤3 v£;°¥?Õ3°\ÔBÐikˆEØ�	 U¨Q¥YÕ/‰IàˆEØ�	ˆIà•I ¨¥Õ+ˆ	Ø�1Œ9Ü×"Ò" 1Ó%¨Õ/ˆCØ˜9¨�>¨F­I¸­NÕ:¸sÕBÕBÕBˆAÙ˜¨Õ,Ñ;°
Ñ;ˆÜ�˜xÓ(ˆØÒÙ�c˜1˜c 1 g¨v­y¸+ÀyÐR\Ð^fÐgÔhØ˜•E�]˜YÕ&ˆØ�a•%�=˜AÔà�A˜•F•
‹Að �a˜"•f•*ˆCÙ˜s F¨q­5¥M°DÕ$8ÑG¸JÑGˆJÜ�s˜F q¥5�M¨:Ó6ˆCØ˜3•w !•mˆGØ�G˜b•LÕ ‹Añ5 6ð6 €Hr   c
                óR  € Vf   / MTpVP                  VP                  ^ ,          .4      p
\        \        V4      ^,
          VR7       EFÙ  pV^ 8”  dU   WrV,          u;8:  d   V8:  d'   M M#\	        V\        V4      ^,
          ,          R	4      MRpW+,          V^,           ,          pM
^ pW+,          pV^ 8”  dO   \
        P                  ! V4      V	,          pWV^,          W+,          ^,          ,
          R,          ,          ,           pV ! WV
,          3/ VB p\        WV4      pVe   V! RVRVRW+,          RVRV/4       W+^,           ,          ^ 8X  d*   W+^,           ,          V,
          pVVV,          ,           pEK3  VP                  4       P                  W+^,           ,          P                  4       R4      P                  4       pVV,
          pW+^,           ,          V,
          pVVV,          ,           pV ! VVV
,          3/ VB p\        VVV4      pVVV,          ,           pEKÜ  	  V# )
zMA sampler inspired by DPM-Solver-2 and Algorithm 2 from Karras et al. (2022).rÊ   r?   r5   r   rÌ   rJ   rÍ   rK   rÎ   )rÐ   r}   rÑ   r|   r:   r   rÒ   rL   r&   Úlerpr'   )rÓ   r   r"   rÔ   rÕ   rË   rÖ   r×   rØ   rÙ   rÚ   rÌ   rÛ   rÍ   rÜ   rK   rÝ   rÞ   Ú	sigma_midÚdt_1Údt_2ró   rô   rõ   s   &&&&&&&&&&              r   Úsample_dpm_2rý   /  sÔ  € ð "Ò)‘¨z€JØ�:‰:�q—w‘w˜q•z�lÓ#€DÜ”C˜“K !•O¨W×5Ð5ˆØ�QŒ;ØFLÐWXÕPYÖFcÐ]c×Fc”C˜¤3 v£;°¥?Õ3°\ÔBÐikˆEØ�	 U¨Q¥YÕ/‰IàˆEØ�	ˆIà�1Œ9Ü×"Ò" 1Ó%¨Õ/ˆCØ˜9¨�>¨F­I¸­NÕ:¸sÕBÕBÕBˆAÙ˜¨Õ,Ñ;°
Ñ;ˆÜ�˜xÓ(ˆØÒÙ�c˜1˜c 1 g¨v­y¸+ÀyÐR\Ð^fÐgÔhØ�a•%�=˜AÔà˜A�• Õ*ˆBØ�A˜•F•
‹Að "Ÿ™›×,Ñ,¨V¸µE­]×->Ñ->Ó-@À#ÓF×JÑJÓLˆIØ˜yÕ(ˆDØ˜a�%•= 9Õ,ˆDØ�a˜$•h•,ˆCÙ˜s I°Õ$4ÑC¸
ÑCˆJÜ�s˜I zÓ2ˆCØ�C˜$•J•‹Añ7 6ð8 €Hr   c	                 óf  € \        V P                  P                  P                  \        P                  P                  4      '       d   \        WW#WEWgV4	      #  Vf   / MTpVP                  RR 4      p	Vf   \        WR7      MTpVP                  VP                  ^ ,          .4      p
\        \        V4      ^,
          VR7       EFg  pV ! WV,          V
,          3/ VB p\        W+,          W+^,           ,          VR7      w  rÞVe   V! RVRVRW+,          RW+,          R	V/4       \        WV,          V4      pV^ 8X  d!   WÒV,          ,
          pWV,          ,           pKš  W+,          P                  4       P                  VP                  4       R
4      P!                  4       pVW+,          ,
          pWÒV,          ,
          pWV,          ,           pV ! VVV
,          3/ VB p\        VVV4      pVVV,          ,           pW! W+,          W+^,           ,          4      V,          V,          ,           pEKj  	  V# )Nr`   rá   rÊ   râ   r   rÌ   rJ   rÍ   rK   r?   )ry   rã   rª   r©   r«   Úsample_dpm_2_ancestral_RFrå   ra   rÐ   r}   rÑ   r|   rS   rL   r&   rù   r'   )rÓ   r   r"   rÔ   rÕ   rË   rP   rÙ   ræ   r`   rÚ   rÌ   rK   rR   rQ   rÝ   rÞ   rú   rû   rü   ró   rô   rõ   s   &&&&&&&&&              r   Úsample_dpm_2_ancestralr   S  sÛ  € ä�%×#Ñ#×/Ñ/×>Ñ>Ä×@TÑ@T×@ZÑ@Z×[Ò[Ü(¨°6ÀxÐZ]ÐhuÓvÐvà@Ø!Ò)‘¨z€JØ�>‰>˜& $Ó'€DØ;HÒ;PÔ)¨!Õ7ÐVc€MØ�:‰:�q—w‘w˜q•z�lÓ#€DÜ”C˜“K !•O¨W×5Ð5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆÜ1°&µ)¸VÈÅE½]ÐPSÔTÑˆ
ØÒÙ�c˜1˜c 1 g¨v­y¸+ÀvÅyÐR\Ð^fÐgÔhÜ�˜1•I˜xÓ(ˆØ˜Œ?à Q�iÕ'ˆBØ˜•F•
ŠAð �	Ÿ™›×,Ñ,¨Z¯^©^Ó-=¸sÓC×GÑGÓIˆIØ˜v�yÕ(ˆDØ q¥	Õ)ˆDØ˜$•h•,ˆCÙ˜s I°Õ$4ÑC¸
ÑCˆJÜ�s˜I zÓ2ˆCØ�C˜$•J•ˆAØ�M &¥)¨V¸µE­]Ó;¸gÕEÈÕPÕP‹Añ' 6ð( €Hr   c	                ó\  € Vf   / MTpVP                  RR4      p	Vf   \        WR7      MTpV\        V P                  P                  P                  R4      RR4      ,          pVP                  VP                  ^ ,          .4      p
\        \        V4      ^,
          VR7       EF  pV ! WV,          V
,          3/ VB p^W+^,           ,          W+,          ,          ^,
          V,          ,           pW+^,           ,          V,          p^W+^,           ,          ,
          p^V,
          pW+^,           ,          ^,          V^,          V^,          ,          V^,          ,          ,
          R,          pVe   V! R	VR
VRW+,          RW+,          RV/4       \        WV,          V4      pV^ 8X  d#   WâV,          ,
          pVVV,          ,           pEK&  W+,          P                  4       P                  VP                  4       R4      P                  4       pVW+,          ,
          pWâV,          ,
          pVVV,          ,           pV ! VVV
,          3/ VB p\        VVV4      pVVV,          ,           pVV,          V,          V! W+,          W+^,           ,          4      V,          V,          ,           pEK  	  V# )z6Ancestral sampling with DPM-Solver second-order steps.Nr`   rá   rª   ré   r)   rÊ   r?   r   rÌ   rJ   rÍ   rK   )rå   ra   rê   rã   rë   rì   rÐ   r}   rÑ   r|   rL   r&   rù   r'   )rÓ   r   r"   rÔ   rÕ   rË   rP   rÙ   ræ   r`   rÚ   rÌ   rK   rí   rR   rî   rï   rð   rÝ   rÞ   rú   rû   rü   ró   rô   rõ   s   &&&&&&&&&                 r   rÿ   rÿ   s  s8  € ð "Ò)‘¨z€JØ�>‰>˜& $Ó'€DØ;HÒ;PÔ)¨!Õ7ÐVc€MØœ × 1Ñ 1× ?Ñ ?× PÑ PÐQaÓ bÐdqÐsvÓwÕw€GØ�:‰:�q—w‘w˜q•z�lÓ#€DÜ”C˜“K !•O¨W×5Ð5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆØ˜f q¥S�k¨&­)Õ3°aÕ7¸3Õ>Õ>ˆØ˜a�C•[ >Õ1ˆ
Ø˜ �s�•Oˆ	Ø˜•^ˆ
Ø !¥� a�¨*°a­-¸	À1½Õ*DÀZÐQRÅ]Õ*RÕRÐUXÕXˆàÒÙ�c˜1˜c 1 g¨v­y¸+ÀvÅyÐR\Ð^fÐgÔhÜ�˜1•I˜xÓ(ˆØ˜Œ?à Q�iÕ'ˆBØ�A˜•F•
‹Að �	Ÿ™›×,Ñ,¨Z¯^©^Ó-=¸sÓC×GÑGÓIˆIØ˜v�yÕ(ˆDØ q¥	Õ)ˆDØ�a˜$•h•,ˆCÙ˜s I°Õ$4ÑC¸
ÑCˆJÜ�s˜I zÓ2ˆCØ�C˜$•J•ˆAØ˜:Õ%¨Õ*©]¸6½9ÀfÐQRÍUÅmÓ-TÐW^Õ-^ÐanÕ-nÕn‹Añ1 6ð2 €Hr   c                 óÆ   a aaa€ S ^,
          S8”  d   \        RS  RS 24      hVVV V3R lp\        P                  ! VSS,          SS^,           ,          RR7      ^ ,          # )r   zOrder z too high for step c                 óÐ   <€ R p\        S4       FS  pSV8X  d   K  WSSV,
          ,          ,
          SSS,
          ,          SSV,
          ,          ,
          ,          ,          pKU  	  V# ©r)   )Úrange)ÚtauÚprodÚkrÌ   ÚjÚorderr3   s   &  €€€€r   ÚfnÚ"linear_multistep_coeff.<locals>.fn™  sU   ø€ ØˆÜ�u–ˆAØ�AŒvÙØ˜1˜Q �U�8•^¨¨!¨a­%­°1°Q¸µUµ8Õ(;Õ<Õ<ŠDñ ð ˆr   ç-Cëâ6?)Úepsrel)r~   r   Úquad)r
  r3   rÌ   r	  r  s   ffff r   Úlinear_multistep_coeffr  –  sY   û€ Øˆq…y�1„}Ü˜6 % Ð(;¸A¸3Ð?Ó@Ð@÷ð ô �>Š>˜"˜a �d A a¨!¥e¥H°TÔ:¸1Õ=Ð=r   c
                óÞ	  a)€ Vf   / MTpV P                   P                  P                  R4      p
\        \        V
R7      pVP                  VP                  ^ ,          .4      pVP                  4       P                  4       P                  4       p. p. pRpRo)V)3R lpVP                  R/ 4      P                  4       p\        P                  P                  VV4      VR&   \        \        V4      ^,
          VR7       EFæ  pV ! WV,          V,          3/ VB pVe!   V! RVRVR	VV,          R
VV,          RV/4       VV,          V! VV,          4      P!                  4       ,          pVV^,           ,          ^ 8w  d:   VV^,           ,          V! VV^,           ,          4      P!                  4       ,          MVV^,           ,          P                  . 4      p\#        WV,          VS),          4      pTpVV^,           ,          VV,          ,
          pV^ 8”  dL   V	'       dD   VVV,          VV^,
          ,          ,
          ,          pVV	V,          VV,
          ,          ,           pVV,          VV^,           ,          V,          ,           V,
          pVV,          pVP%                  V4       \        V4      ^8”  d   VP'                  ^ 4       \        V4      ^8X  d   TpMc\)        ^4       Uu. uF  p\+        ^VVV4      NK  	  pp\-        R \/        V\1        V4      4       4       4      p \2        P4                  ! VV V4      pVV,           pVV^,           ,          ^ 8X  EdT   VEeO   V'       EdF   V^8X  dÝ   \        V4      ^8”  dÍ   VV^,
          ,          VV^,
          ,          VV,          p#p"p!V"V#,          V!V",
          V!V#,
          ,          ,          p$V!V#,          V"V!,
          V"V#,
          ,          ,          p%V!V",          V#V!,
          V#V",
          ,          ,          p&V$VR,          ,          V%VR,          ,          ,           V&V,          ,           p'MJVVR,          ,
          VV,          VV^,
          ,          ,
          ,          p(VVV,          V(,          ,
          p'\2        P4                  ! VV'V4      pVP%                  V4       \        V4      ^8”  d   VP'                  ^ 4       TpEKé  	  V# u upi )zQCFG++ Euler with variable-step AB2 history and optional sigma-zero extrapolation.Nrª   ©rª   c                 óP   <€ V R ,          e
   V R,          MV R,          oV R,          # )ÚuncondÚuncond_denoisedÚcond_denoisedrK   rq   ©Úargsr  s   &€r   Úpost_cfg_functionÚ0_sample_cfgpp_history.<locals>.post_cfg_function¯  s+   ø€ à59¸(µ^Ò5O˜$Ð0Ö1ÐUYÐZiÕUjˆØ�JÕÐr   Úmodel_optionsrÊ   r   rÌ   rJ   rÍ   rK   c              3   ó6   "  € T F  w  rW,          x € K  	  R # 5ir’   rq   )rj   ÚcoeffÚ
derivatives   &  r   ro   Ú(_sample_cfgpp_history.<locals>.<genexpr>Î  s   é € ÐnÑKmÑ6G°e˜u×1Ò1ÓKmùó   ‚éþÿÿÿr†   )rã   rë   rì   r   r®   rÐ   r}   r   rU   Únumpyrå   Úcopyr©   Ú#set_model_options_post_cfg_functionrÑ   r|   r'   rL   Úappendrr   r  r  ÚsumÚzipÚreversedr   rù   )*rÓ   r   r"   rÔ   rÕ   rË   Úhistory_weightÚzero_weightÚ
zero_orderÚuncond_history_weightrª   Ú	lambda_fnrÚ   Ú
sigmas_cpuÚderivativesÚdenoised_historyÚold_uncond_dr  r  rÌ   rK   Úalpha_sÚalpha_tÚcurrent_uncond_dÚuncond_drÞ   Ú
step_ratioÚ
euler_steprÝ   Ústepr	  ÚcoeffsÚhistory_stepÚsigma_0Úsigma_1Úsigma_2Úweight_0Úweight_1Úweight_2Úzero_predictionÚdenoised_sloper  s*   &&&&&&&&&&                               @r   Ú_sample_cfgpp_historyrC  £  s2  ø€ à!Ò)‘¨z€JØ×&Ñ&×4Ñ4×EÑEÐFVÓW€NÜÔ-¸nÔM€IØ�:‰:�q—w‘w˜q•z�lÓ#€DØ—‘“×$Ñ$Ó&×,Ñ,Ó.€JØ€KØÐØ€LØ€Oõ ð
 —N‘N ?°BÓ7×<Ñ<Ó>€MÜ"'×"5Ñ"5×"YÑ"YÐZgÐizÓ"{€JˆÑä”C˜“K !•O¨W×5Ð5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆØÒÙ�c˜1˜c 1 g¨v°a­y¸+ÀvÈaÅyÐR\Ð^fÐgÔhà˜•)™i¨¨q­	Ó2×6Ñ6Ó8Õ8ˆØDJÈ1ÈqÍ5ÅMÐUVÔDV�&˜˜Q�•-¡)¨F°1°qµ5­MÓ":×">Ñ">Ó"@Ö@Ð\bÐcdÐghÕchÕ\i×\rÑ\rÐsuÓ\vˆÜ ¨!¥9¨g¸Õ.GÓHÐØ#ˆØ�A˜•E�]˜V A�YÕ&ˆØˆqŒ5×*Ø˜v a�y¨6°!°aµ%­=Õ8Õ9ˆJØÐ"7¸*Õ"DÐHXÐ[gÕHgÕ"hÕhˆHØ˜xÕ'¨&°°Qµ­-¸(Õ*BÕBÀQÕFˆ
Ø˜�OˆØ×Ñ˜1ÔÜˆ{Ó˜aÔØ�O‰O˜AÔäˆ{Ó˜qÔ Ø‰DäKPÐQRÌ8ÓTÉ8ÀaÔ,¨Q°
¸A¸qÖAÉ8ˆFÐTÜÑnÌ3ÈvÔW_Ð`kÓWlÔKmÓnÓnˆLÜ—:’:˜j¨,¸ÓGˆDØ��HˆØ�!�a•%�=˜AÕ +Ó"9×>NÐ>NØ˜QŒ¤3Ð'7Ó#8¸1Ô#<Ø,2°1°qµ5­M¸6À!ÀaÅ%½=È&ÐQRÍ) '˜�Ø" WÕ,°¸7Õ1BÀwÐQXÕGXÕ0YÕZ�Ø" WÕ,°¸7Õ1BÀwÐQXÕGXÕ0YÕZ�Ø" WÕ,°¸7Õ1BÀwÐQXÕGXÕ0YÕZ�Ø"*Ð-=¸bÕ-AÕ"AÀHÐO_Ð`bÕOcÕDcÕ"cÐfnÐqyÕfyÕ"y‘à"*Ð-=¸bÕ-AÕ"AÀfÈQÅiÐRXÐYZÐ]^ÕY^ÕR_ÕF_Õ!`�Ø"*¨V°A­Y¸Õ-GÕ"G�Ü—
’
˜1˜o¨{Ó;ˆAØ×Ñ Ô)ÜÐÓ  1Ô$Ø× Ñ  Ô#Ø'‹ñQ 6ðR €Hùò' Us   Ë'S*c                 ó$   € \        WW#WER RRR7	      # )g      Ð?r)   çš™™™™™¹?)rÔ   rÕ   rË   r)  r*  r,  )rC  ©rÓ   r   r"   rÔ   rÕ   rË   s   &&&&&&r   Úsample_cfgpp_ud10_abrG  ã  s-   € Ü  ¨6ÐS[ð  ~Bð  PSð  knô  oð  or   c                 óü  € Vf   / MTpVP                  VP                  ^ ,          .4      pVP                  4       P                  4       P	                  4       p. p	\        \        V4      ^,
          VR7       Fü  p
V ! WV
,          V,          3/ VB p\        WV
,          V4      pV	P                  V4       \        V	4      V8”  d   V	P                  ^ 4       Ve   V! RVRV
RW*,          RW*,          RV/4       W*^,           ,          ^ 8X  d   TpK™  \        V
^,           V4      p\        V4       Uu. uF  p\        WØW®4      NK  	  ppV\        R \        V\        V	4      4       4       4      ,           pKþ  	  V# u upi )NrÊ   r   rÌ   rJ   rÍ   rK   c              3   ó6   "  € T F  w  rW,          x € K  	  R # 5ir’   rq   )rj   r  rÝ   s   &  r   ro   Úsample_lms.<locals>.<genexpr>û  s   é € ÐLÑ2K¡h e˜Ÿ	š	Ó2Kùr   )rÐ   r}   r   rU   r"  rÑ   r|   rL   r%  rr   r:   r  r  r&  r'  r(  )rÓ   r   r"   rÔ   rÕ   rË   r
  rÚ   r.  ÚdsrÌ   rK   rÝ   Ú	cur_orderr	  r9  s   &&&&&&&         r   Ú
sample_lmsrM  ç  sG  € à!Ò)‘¨z€JØ�:‰:�q—w‘w˜q•z�lÓ#€DØ—‘“×$Ñ$Ó&×,Ñ,Ó.€JØ	€BÜ”C˜“K !•O¨W×5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆÜ�˜1•I˜xÓ(ˆØ
�	‰	�!ŒÜˆr‹7�UŒ?Ø�F‰F�1ŒIØÒÙ�c˜1˜c 1 g¨v­y¸+ÀvÅyÐR\Ð^fÐgÔhØ�a•%�=˜AÔàŠAä˜A �E 5Ó)ˆIÜSXÐYbÔScÓdÑScÈaÔ,¨YÀAÖIÑScˆFÐdØ”CÑL´#°f¼hÀr»lÔ2KÓLÓLÕLŠAñ 6ð €Hùò es   Ä0E9c                   ó:   a € ] tR tRt o RtRR ltR tR tRtV t	R# )	ÚPIDStepSizeControlleriÿ  z4A PID controller for ODE adaptive step size control.c                óÂ   € Wn         W#,           V,           V,          V n        V^V,          ,           ) V,          V n        WE,          V n        W`n        Wpn        . V n        R# )rº   N)r»   Úb1Úb2Úb3Úaccept_safetyrÜ   Úerrs)r�   r»   ÚpcoeffÚicoeffÚdcoeffr
  rT  rÜ   s   &&&&&&&&r   r‚   ÚPIDStepSizeController.__init__  sM   € ØŒØ•? VÕ+¨uÕ4ˆŒØ˜Q �ZÕ'Ð(¨5Õ0ˆŒØ•.ˆŒØ*ÔØŒØˆŽ	r   c                óJ   € ^\         P                  ! V^,
          4      ,           # r   )r%   Úatan)r�   r   s   &&r   ÚlimiterÚPIDStepSizeController.limiter
  s   € Ø”4—9’9˜Q �UÓ#Õ#Ð#r   c                óŠ  € ^\        V4      V P                  ,           ,          pV P                  '       g
   W"V.V n        W P                  ^ &   V P                  ^ ,          V P                  ,          V P                  ^,          V P                  ,          ,          V P                  ^,          V P
                  ,          ,          pV P                  V4      pW0P                  8¬  pV'       dA   V P                  ^,          V P                  ^&   V P                  ^ ,          V P                  ^&   V ;P                  V,          un        V# r   )	rŒ   rÜ   rU  rQ  rR  rS  r\  rT  r»   )r�   ÚerrorÚ	inv_errorÚfactorÚaccepts   &&   r   Úpropose_stepÚ"PIDStepSizeController.propose_step  sÚ   € Øœ˜u›¨¯©Õ0Õ1ˆ	Ø�y�yˆyØ"¨yÐ9ˆDŒIØ �	‰	�!‰Ø—‘˜1• §¡Õ(¨4¯9©9°Q­<¸4¿7¹7Õ+BÕBÀTÇYÁYÈqÅ\ÐUY×U\ÑU\ÕE\Õ\ˆØ—‘˜fÓ%ˆØ×-Ñ-Ñ-ˆßØŸ9™9 Q�<ˆD�I‰I�a‰LØŸ9™9 Q�<ˆD�I‰I�a‰LØ�Š�&Õ�Øˆr   )rT  rQ  rR  rS  rÜ   rU  r»   N)r   çìQ¸…ëé?g:Œ0âŽyE>)
r“   r”   r•   r–   r—   r‚   r\  rc  r™   rš   r›   s   @r   rO  rO  ÿ  s   ø‡ € Ù>ôò$÷ð r   rO  c                   ó~   a a€ ] tR tRt oRtRV 3R lltR tR tR tRR lt	RR lt
RR	 ltRR
 ltRR ltRtVtV ;t# )Ú	DPMSolveri  z1DPM-Solver. See https://arxiv.org/abs/2206.00927.c                ób   <€ \         SV `  4        Wn        Vf   / MTV n        W0n        W@n        R # r’   )Úsuperr‚   rÓ   rÔ   Úeps_callbackÚinfo_callback)r�   rÓ   rÔ   rj  rk  Ú	__class__s   &&&&&€r   r‚   ÚDPMSolver.__init__  s-   ø€ Ü‰ÑÔØŒ
Ø *Ò 2™"¸
ˆŒØ(ÔØ*Ör   c                ó$   € VP                  4       ) # r’   ©r&   )r�   rJ   s   &&r   r3   ÚDPMSolver.t&  s   € Ø—	‘	“ˆ|Ðr   c                ó>   € VP                  4       P                  4       # r’   ©r­   r'   )r�   r3   s   &&r   rJ   ÚDPMSolver.sigma)  s   € Ø�u‰u‹w�{‰{‹}Ðr   c                óZ  € W!9   d   W,          V3# V P                  V4      VP                  VP                  ^ ,          .4      ,          pW0P                  ! W7.VO5/ V P                  BVB ,
          V P                  V4      ,          pV P
                  e   V P                  4        W‚V/VC3# )r   )rJ   rÐ   r}   rÓ   rÔ   rj  )	r�   Ú	eps_cacheÚkeyr   r3   r  rl   rJ   rÜ   s	   &&&&&*,  r   rÜ   ÚDPMSolver.eps,  s—   € ØÔØ•> 9Ð,Ð,Ø—
‘
˜1“ §
¡
¨A¯G©G°A­J¨<Ó 8Õ8ˆØ—:’:˜aÐK¨ÒK°·±ÐKÀFÑKÕKÈtÏzÉzÐZ[Ë}Õ\ˆØ×ÑÒ(Ø×ÑÔØ˜#Ð+ Ð+Ð+Ð+r   c                ó¸   € Vf   / MTpW2,
          pV P                  VRW4      w  rdWP                  V4      VP                  4       ,          V,          ,
          pWt3# )NrÜ   ©rÜ   rJ   r/   )r�   r   r3   Út_nextru  r»   rÜ   Úx_1s   &&&&&   r   Údpm_solver_1_stepÚDPMSolver.dpm_solver_1_step5  sR   € Ø#Ò+‘B°ˆ	Ø�JˆØŸ™ )¨U°AÓ9‰ˆØ—*‘*˜VÓ$ q§w¡w£yÕ0°3Õ6Õ6ˆØˆ~Ðr   c                óþ  € Vf   / MTpW2,
          pV P                  VRW4      w  ruW$V,          ,           pWP                  V4      WF,          P                  4       ,          V,          ,
          p	V P                  VRW˜4      w  r¥WP                  V4      VP                  4       ,          V,          ,
          V P                  V4      ^V,          ,          VP                  4       ,          W§,
          ,          ,
          pWµ3# )NrÜ   Úeps_r1ry  )r�   r   r3   rz  Úr1ru  r»   rÜ   Ús1Úu1r  ró   s   &&&&&&      r   Údpm_solver_2_stepÚDPMSolver.dpm_solver_2_step<  sÅ   € Ø#Ò+‘B°ˆ	Ø�JˆØŸ™ )¨U°AÓ9‰ˆØ�a•�ZˆØ—‘˜B“ 2¥6§.¡.Ó"2Õ2°SÕ8Õ8ˆØ ŸH™H Y°¸"ÓAÑˆØ—*‘*˜VÓ$ q§w¡w£yÕ0°3Õ6Õ6¸¿¹ÀFÓ9KÈqÐSUÍvÕ9VÐYZ×Y`ÑY`ÓYbÕ9bÐflÕfrÕ9sÕsˆØˆ~Ðr   c                ó„  € Vf   / MTpW2,
          pV P                  VRW4      w  r†W$V,          ,           p	W%V,          ,           p
WP                  V	4      WG,          P                  4       ,          V,          ,
          pV P                  VRW¹4      w  rÆWP                  V
4      WW,          P                  4       ,          V,          ,
          V P                  V
4      WT,          ,          WW,          P                  4       WW,          ,          ^,
          ,          WÈ,
          ,          ,
          pV P                  VRWÚ4      w  ræWP                  V4      VP                  4       ,          V,          ,
          V P                  V4      V,          VP                  4       V,          ^,
          ,          Wè,
          ,          ,
          pWö3# )NrÜ   r  Úeps_r2ry  )r�   r   r3   rz  r€  Úr2ru  r»   rÜ   r�  Ús2r‚  r  Úu2r†  Úx_3s   &&&&&&&         r   Údpm_solver_3_stepÚDPMSolver.dpm_solver_3_stepF  s[  € Ø#Ò+‘B°ˆ	Ø�JˆØŸ™ )¨U°AÓ9‰ˆØ�a•�ZˆØ�a•�ZˆØ—‘˜B“ 2¥6§.¡.Ó"2Õ2°SÕ8Õ8ˆØ ŸH™H Y°¸"ÓAÑˆØ—‘˜B“ 2¥6§.¡.Ó"2Õ2°SÕ8Õ8¸4¿:¹:Àb»>ÈRÍWÕ;UÐZ\ÕZ`×YgÑYgÓYiÐmoÕmsÕYtÐwxÕYxÕ;yð  ~Dõ  ~Jõ  <Kõ  KˆØ ŸH™H Y°¸"ÓAÑˆØ—*‘*˜VÓ$ q§w¡w£yÕ0°3Õ6Õ6¸¿¹ÀFÓ9KÈbÕ9PÐTU×T[ÑT[ÓT]Ð`aÕTaÐdeÕTeÕ9fÐjpÕjvÕ9wÕwˆØˆ~Ðr   c                óZ  € Vf'   \        WP                  P                  RR 4      R7      MTpW28”  g   V'       d   \        R4      h\        P
                  ! V^,          4      ^,           p\        P                  ! W#V^,           VP                  R7      p	V^,          ^ 8X  d   ^.V^,
          ,          ^^.,           p
M ^.V^,
          ,          V^,          .,           p
\        \        V
4      4       EFµ  p/ pW›,          W›^,           ,          ríV'       d‘   \        V P                  V4      V P                  V4      V4      w  pp\        P                  ! W0P                  V4      4      pV P                  V4      ^,          V P                  V4      ^,          ,
          R,          pMTRppV P                  VRW4      w  ppWP                  V4      V,          ,
          pV P                   e"   V P!                  RVR	VR
W›,          RVRV/4       W«,          ^8X  d   V P#                  WVVR7      w  rM:W«,          ^8X  d   V P%                  WVVR7      w  rMV P'                  WVVR7      w  rVVV,          V! V P                  V4      V P                  V4      4      ,          ,           pEK¸  	  V# )Nr`   rá   ú"eta must be 0 for reverse samplingr   r?   r5   rÜ   r   rÌ   r3   Út_uprK   ©ru  )ra   rÔ   rå   r~   r%   Úfloorr   r   r   r  r|   rS   rJ   Úminimumr3   rÜ   rk  r|  rƒ  r‹  )r�   r   Út_startÚt_endÚnferP   rÙ   ræ   ÚmÚtsÚordersrÌ   ru  r3   rz  ÚsdÚsuÚt_next_rÜ   rK   s   &&&&&&&&            r   Údpm_solver_fastÚDPMSolver.dpm_solver_fastS  s3  € Ø\iÒ\qÔ-¨a·o±o×6IÑ6IÈ&ÐRVÓ6WÕXð  xEˆØŒ§3ÜÐAÓBÐBä�JŠJ�s˜Q•wÓ !Õ#ˆÜ�^Š^˜G¨A°­E¸!¿(¹(ÔCˆà��7�aŒ<Ø�S˜A �E•] a¨ VÕ+‰Fà�S˜A �E•] c¨A¥g YÕ.ˆFä”s˜6“{×#ˆAØˆIØ�˜r a¥%�yˆvßÜ+¨D¯J©J°q«M¸4¿:¹:ÀfÓ;MÈsÓS‘��BÜŸ-š-¨¯v©v°b«zÓ:�Ø—j‘j Ó(¨AÕ-°·
±
¸7Ó0CÀqÕ0HÕHÈSÕP‘à$ b˜�à!ŸX™X i°¸Ó=‰NˆC�ØŸ:™: a›=¨3Õ.Õ.ˆHØ×!Ñ!Ò-Ø×"Ñ" C¨¨C°°C¸½ÀÈÈ:ÐW_Ð#`Ôaà�y˜AŒ~Ø#×5Ñ5°a¸GÈyÐ5ÓY‘��9Ø•˜a”Ø#×5Ñ5°a¸GÈyÐ5ÓY‘��9à#×5Ñ5°a¸GÈyÐ5ÓY‘�à�B˜•L¡=°·±¸A³ÀÇ
Á
È6Ó@RÓ#SÕSÕS‹Añ- $ð0 ˆr   c                ó>  € Vf'   \        WP                  P                  RR 4      R7      MTpVR9  d   \        R4      hW28„  pV'       g   V'       d   \        R4      h\	        V4      V'       d   ^MR,          p\
        P                  ! V4      p\
        P                  ! V4      pTpTpRp\        YxYšV'       d   RMTV4      pR^ R^ R	^ R
^ /pV'       d   VVR,
          8  Ed7   MVVR,           8”  Ed'   / pV'       d)   \
        P                  ! VVVP                  ,           4      M'\
        P                  ! VVVP                  ,           4      pV'       d‘   \        V P                  V4      V P                  V4      V4      w  pp\
        P                  ! W0P                  V4      4      pV P                  V4      ^,          V P                  V4      ^,          ,
          R,          pMTRppV P                  VRVV4      w  ppWP                  V4      V,          ,
          pV^8X  d2   V P                  VVVVR7      w  ppV P!                  VVVVR7      w  ppM1V P!                  VVVRVR7      w  ppV P#                  VVVVR7      w  pp\
        P                  ! We\
        P                  ! VP	                  4       VP	                  4       4      ,          4      p\
        P$                  P'                  VV,
          V,          4      VP)                  4       R,          ,          pVP+                  V4      pV'       dW   TpVVV,          V! V P                  V4      V P                  V4      4      ,          ,           pTpVR	;;,          ^,          uu&   MVR
;;,          ^,          uu&   VR;;,          V,          uu&   VR;;,          ^,          uu&   V P,                  f   EK  V P-                  RVRVR,          ^,
          RVRVRVRVRVP                  /VC4       EKM  VV3# )Nr`   rá   zorder should be 2 or 3rŽ  Tg      ø?Ústepsr•  Ún_acceptÚn_rejectr7   r?   r5   rÜ   r�  )r€  ru  r   rÌ   r3   r�  rK   r_  r»   >   rº   é   r†   çUUUUUUÕ?)ra   rÔ   rå   r~   rA   r   ÚtensorrO  r’  r»   ÚmaximumrS   rJ   r3   rÜ   r|  rƒ  r‹  ÚlinalgÚnormÚnumelrc  rk  ) r�   r   r“  r”  r
  ÚrtolÚatolÚh_initrV  rW  rX  rT  rP   rÙ   ræ   Úforwardrk   Úx_prevrb  ÚpidÚinforu  r3   r™  rš  Út_rÜ   rK   Úx_lowÚx_highÚdeltar_  s    &&&&&&&&&&&&&&&                 r   Údpm_solver_adaptiveÚDPMSolver.dpm_solver_adaptivez  s‚  € Ø\iÒ\qÔ-¨a·o±o×6IÑ6IÈ&ÐRVÓ6WÕXð  xEˆØ˜ÔÜÐ5Ó6Ð6Ø‘/ˆßŸ3ÜÐAÓBÐBÜ�V“§W¡°"Õ5ˆÜ�|Š|˜DÓ!ˆÜ�|Š|˜DÓ!ˆØˆØˆØˆÜ# F°FÏ3ÁCÐTYÐ[hÓiˆØ˜˜E 1 j°!°ZÀÐCˆç")ˆa�%˜$•,Ö¨q°5¸4µ<Õ/?ØˆIß3:”—’˜e Q¨¯©¥YÔ/ÄÇÂÈeÐUVÐY\×Y^ÑY^ÕU^Ó@_ˆAßÜ+¨D¯J©J°q«M¸4¿:¹:Àa»=È#ÓN‘��BÜ—]’] 5¯&©&°«*Ó5�Ø—j‘j “m qÕ(¨4¯:©:°b«>¸QÕ+>Õ>À3ÕF‘à˜B�B�à!ŸX™X i°¸¸1Ó=‰NˆC�ØŸ:™: a›=¨3Õ.Õ.ˆHà˜ŒzØ#'×#9Ñ#9¸!¸QÀÈiÐ#9Ó#XÑ ��yØ$(×$:Ñ$:¸1¸aÀÈyÐ$:Ó$YÑ!�™	à#'×#9Ñ#9¸!¸QÀÀuÐXaÐ#9Ó#bÑ ��yØ$(×$:Ñ$:¸1¸aÀÈyÐ$:Ó$YÑ!�˜	Ü—M’M $¬u¯}ª}¸U¿Y¹Y»[È&Ï*É*Ë,Ó/WÕ(WÓXˆEÜ—L‘L×%Ñ% u¨v¥~¸Õ&>Ó?À!Ç'Á'Ã)ÈsÕBRÕRˆEØ×%Ñ% eÓ,ˆFßØ�Ø˜R '�\©M¸$¿*¹*ÀQ»-ÈÏÉÐTUËÓ,WÕWÕW�Ø�Ø�Z×  AÕ%Ô à�Z×  AÕ%Ó Ø��K˜5Õ ‹KØ��M˜QÕ‹Mà×!Ñ!Õ-Ø×"Ñ" C¨¨C°°gµÀÕ1BÀCÈÈFÐTUÐWaÐckÐmtÐv{ð  ~Að  CF÷  CHñ  CHð  $Qð  LPð  $Q÷  Rà�$ˆwˆr   )rj  rÔ   rk  rÓ   ©NNNr’   )r?   N)r£  çUUUUUUå?N)r5   r)   N)r¢  çš™™™™™©?çÞqŠŽäò?r¸  r5   r)   r5   re  r5   r)   N)r“   r”   r•   r–   r—   r‚   r3   rJ   rÜ   r|  rƒ  r‹  rœ  r´  r™   rš   Ú__classcell__)rl  rœ   s   @@r   rg  rg    s;   ù‡ € Ù;÷+òòò,ôôôô%÷N3ô 3r   rg  c                ó¢  aa€ V^ 8:  g   V^ 8:  d   \        R4      h\        WGR7      ;_uu_ 4       p\        WVP                  R7      oSe   VV3R lSn        SP                  VSP                  \        P                  ! V4      4      SP                  \        P                  ! V4      4      WHWš4      uuRRR4       #   + '       g   i     R# ; i)zHDPM-Solver-Fast (fixed step size). See https://arxiv.org/abs/2206.00927.ú%sigma_min and sigma_max must not be 0)ÚtotalrË   ©rj  Nc           	      óx   <€ S! R SP                  V R,          4      RSP                  V R,          4      /V C4      # ©rJ   r3   rÍ   r�  ©rJ   ©r¯  rÕ   Ú
dpm_solvers   &€€r   r=   Ú!sample_dpm_fast.<locals>.<lambda>¸  ód   ø€ ±H¸gÀz×GWÑGWÐX\Ð]`ÕXaÓGbÐdoÐq{÷  rBñ  rBð  CGð  HNõ  COó  rPð  >Yð  TXð  >Yô  5Zr   )	r~   r   rg  Úupdaterk  rœ  r3   r   r¤  )rÓ   r   r   r   r   rÔ   rÕ   rË   rP   rÙ   ræ   ÚpbarrÃ  s   &&&&&&f&&&& @r   Úsample_dpm_fastrÈ  °  s¥   ù€ ð �A„~˜ aœÜÐ@ÓAÐAÜ	�A×	'Õ	'¨4Ü˜u¸t¿{¹{ÔKˆ
ØÒõ (ZˆJÔ$Ø×)Ñ)¨!¨Z¯\©\¼%¿,º,ÀyÓ:QÓ-RÐT^×T`ÑT`Ôaf×amÒamÐnwÓaxÓTyÐ{|ð  DKó  [÷	 
(×	'×	'Ó	'ús   °BB=Â=C	c                óÈ  aa€ V^ 8:  g   V^ 8:  d   \        R4      h\        VR7      ;_uu_ 4       p\        WVP                  R7      oSe   VV3R lSn        SP                  VSP                  \        P                  ! V4      4      SP                  \        P                  ! V4      4      WxWšW¼WÞVVV4      w  ppRRR4       V'       d   VX3# V#   + '       g   i     L; i)zPDPM-Solver-12 and 23 (adaptive step size). See https://arxiv.org/abs/2206.00927.r¼  rÊ   r¾  Nc           	      óx   <€ S! R SP                  V R,          4      RSP                  V R,          4      /V C4      # rÀ  rÁ  rÂ  s   &€€r   r=   Ú%sample_dpm_adaptive.<locals>.<lambda>Ä  rÅ  r   )	r~   r   rg  rÆ  rk  r´  r3   r   r¤  )rÓ   r   r   r   rÔ   rÕ   rË   r
  r©  rª  r«  rV  rW  rX  rT  rP   rÙ   ræ   Úreturn_inforÇ  r¯  rÃ  s   &&&&&f&&&&&&&&&&&&&  @r   Úsample_dpm_adaptiverÍ  ¼  sè   ù€ ð �A„~˜ aœÜÐ@ÓAÐAÜ	�g×	Õ	 $Ü˜u¸t¿{¹{ÔKˆ
ØÒõ (ZˆJÔ$Ø×0Ñ0°°J·L±LÄÇÂÈiÓAXÓ4YÐ[e×[gÑ[gÔhm×htÒhtÐu~Óhó  \Að  CHð  PTð  ^dð  ntð  EHð  JQð  S`ó  a‰ˆˆ4÷	 
÷
 Ø�$ˆwˆØ€H÷ 
×	ús   °BCÃC!	c	                 óê  € \        V P                  P                  P                  \        P                  P                  4      '       d   \        WW#WEWgV4	      #  Vf   / MTpVP                  RR 4      p	Vf   \        WR7      MTpVP                  VP                  ^ ,          .4      p
R pR p\        \        V4      ^,
          VR7       EF£  pV ! WV,          V
,          3/ VB p\        W-,          W-^,           ,          VR7      w  ppVe   V! RVRVR	W-,          R
W-,          RV/4       V^ 8X  d4   \        WV,          V4      pWòV,          ,
          pVVV,          ,           pMÁV! W-,          4      V! V4      ppRpVV,
          pVVV,          ,           pV! V4      V! V4      ,          V,          V) V,          P                  4       V,          ,
          pV ! VV! V4      V
,          3/ VB pV! V4      V! V4      ,          V,          V) P                  4       V,          ,
          pW-^,           ,          ^ 8”  g   EKs  W! W-,          W-^,           ,          4      V,          V,          ,           pEK¦  	  V# )Nr`   rá   c                 ó>   € V P                  4       P                  4       # r’   rr  ©r3   s   &r   r=   Ú+sample_dpmpp_2s_ancestral.<locals>.<lambda>Õ  ó   € ˜Ÿ™›Ÿ™œr   c                 ó>   € V P                  4       P                  4       # r’   ©r&   r­   rÁ  s   &r   r=   rÑ  Ö  ó   € ˜Ÿ™›Ÿ™Ô*r   rÊ   râ   r   rÌ   rJ   rÍ   rK   r?   )ry   rã   rª   r©   r«   Úsample_dpmpp_2s_ancestral_RFrå   ra   rÐ   r}   rÑ   r|   rS   rL   r/   )rÓ   r   r"   rÔ   rÕ   rË   rP   rÙ   ræ   r`   rÚ   Úsigma_fnÚt_fnrÌ   rK   rR   rQ   rÝ   rÞ   r3   rz  Úrr»   rk   ró   rô   s   &&&&&&&&&                 r   Úsample_dpmpp_2s_ancestralrÚ  Ë  s  € ä�%×#Ñ#×/Ñ/×>Ñ>Ä×@TÑ@T×@ZÑ@Z×[Ò[Ü+¨E°fÈ(Ð]`ÐkxÓyÐyàFØ!Ò)‘¨z€JØ�>‰>˜& $Ó'€DØ;HÒ;PÔ)¨!Õ7ÐVc€MØ�:‰:�q—w‘w˜q•z�lÓ#€DÙ&€HÙ*€Dä”C˜“K !•O¨W×5Ð5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆÜ1°&µ)¸VÈÅE½]ÐPSÔTÑˆ
�HØÒÙ�c˜1˜c 1 g¨v­y¸+ÀvÅyÐR\Ð^fÐgÔhØ˜Œ?ä�Q˜q�	 8Ó,ˆAØ Q�iÕ'ˆBØ�A˜•F•
‰Añ ˜V�Y›©¨jÓ)9ˆvˆAØˆAØ˜•
ˆAØ�A˜•E•	ˆAÙ˜A“;¡¨!£Õ,°Õ1°a°R¸!µV·N±NÓ4DÀxÕ4OÕOˆCÙ˜s¡H¨Q£K°$Õ$6ÑE¸*ÑEˆJÙ˜&Ó!¡H¨Q£KÕ/°1Õ4¸¸·z±z³|ÀjÕ7PÕPˆAà�a•%�=˜1×Ø�M &¥)¨V¸µE­]Ó;¸gÕEÈÕPÕP‹Añ+ 6ð, €Hr   c	                óì  € Vf   / MTpVP                  RR4      p	Vf   \        WR7      MTpV\        V P                  P                  P                  R4      RR4      ,          pVP                  VP                  ^ ,          .4      p
R pR p\        \        V4      ^,
          VR	7       EFE  pV ! WV,          V
,          3/ VB p^W-^,           ,          W-,          ,          ^,
          V,          ,           pW-^,           ,          V,          p^W-^,           ,          ,
          p^V,
          pW-^,           ,          ^,          V^,          V^,          ,          V^,          ,          ,
          R
,          pVe   V! RVRVRW-,          RW-,          RV/4       W-^,           ,          ^ 8X  d4   \        WV,          V4      pVW-,          ,
          pVVV,          ,           pM´W-,          R8X  d   RpM9V! W-,          4      V! V4      ppR
pVV,
          pVVV,          ,           pV! V4      pVW-,          ,          pVV,          ^V,
          V,          ,           pV ! VVV
,          3/ VB pVW-,          ,          pVV,          ^V,
          V,          ,           pW-^,           ,          ^ 8”  g   EKü  V^ 8”  g   EK  VV,          V,          V! W-,          W-^,           ,          4      V,          V,          ,           pEKH  	  V# )ú<Ancestral sampling with DPM-Solver++(2S) second-order steps.Nr`   rá   rª   ré   r)   c                 ó>   € V P                  4       ^,           R,          # r…   ©r'   )Úlbdas   &r   r=   Ú.sample_dpmpp_2s_ancestral_RF.<locals>.<lambda>ù  s   € ˜TŸX™X›Z¨!�^°Ö2r   c                 ó>   € ^V ,
          V ,          P                  4       # r   ro  rÁ  s   &r   r=   rà  ú  s   €   %¥¨�×3Ñ3Ô5r   rÊ   r?   r   rÌ   rJ   rÍ   rK   g§èH.ÿï?)rå   ra   rê   rã   rë   rì   rÐ   r}   rÑ   r|   rL   ) rÓ   r   r"   rÔ   rÕ   rË   rP   rÙ   ræ   r`   rÚ   r×  r-  rÌ   rK   rí   rR   rî   rï   rð   rÝ   rÞ   Úsigma_sÚt_iÚt_downrÙ  r»   rk   Úsigma_s_i_ratioÚuÚD_irñ   s    &&&&&&&&&                       r   rÖ  rÖ  ñ  sŒ  € ð "Ò)‘¨z€JØ�>‰>˜& $Ó'€DØ;HÒ;PÔ)¨!Õ7ÐVc€MØœ × 1Ñ 1× ?Ñ ?× PÑ PÐQaÓ bÐdqÐsvÓwÕw€GØ�:‰:�q—w‘w˜q•z�lÓ#€DÙ2€HÙ5€Iô ”C˜“K !•O¨W×5Ð5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆØ˜f q¥S�k¨&­)Õ3°aÕ7¸3Õ>Õ>ˆØ˜a�C•[ >Õ1ˆ
Ø˜ �s�•Oˆ	Ø˜•^ˆ
Ø !¥� a�¨*°a­-¸	À1½Õ*DÀZÐQRÅ]Õ*RÕRÐUXÕXˆàÒÙ�c˜1˜c 1 g¨v­y¸+ÀvÅyÐR\Ð^fÐgÔhØ�a•%�=˜AÔä�Q˜q�	 8Ó,ˆAØ˜f�iÕ'ˆBØ�A˜•F•
‰Að �y˜CÔØ ‘á'¨­	Ó2±I¸jÓ4I�V�Ø�Ø˜S•L�Ø˜!˜a�%•K�Ù" 1›+�à%¨­	Õ1ˆOØ !Õ# q¨?Õ':¸hÕ&FÕFˆAÙ˜˜7 T�>Ñ8¨ZÑ8ˆCØ!+¨f­iÕ!7ÐØ" QÕ&¨!Ð.@Õ*@ÀCÕ)GÕGˆAð �a•%�=˜1×  q§Ø˜:Õ%¨Õ*©]¸6½9ÀfÐQRÍUÅmÓ-TÐW^Õ-^ÐanÕ-nÕn‹AñE 6ðH €Hr   c
                óŽ  € \        V4      ^8:  d   V# Vf   / MTpW"^ 8„  ,          P                  4       VP                  4       rºVP                  RR4      pVf   \	        WW¼RR7      MTpVP                  VP                  ^ ,          .4      pV P                  P                  P                  R4      p\        \        VR7      p\        \        VR7      p\        W.4      pV\        VRR4      ,          p\        \        V4      ^,
          VR	7       EF1  pV ! WV,          V,          3/ VB pVe!   V! R
VRVRVV,          RVV,          RV/4       VV^,           ,          ^ 8X  d   TpKX  V! VV,          4      V! VV^,           ,          4      ppVV,
          pVV	V,          ,           p^^V	,          ,          pV! V4      pVV,          VP!                  4       ,          pVVP!                  4       ,          pVV^,           ,          VP!                  4       ,          p\#        VP%                  4       P!                  4       VP%                  4       P!                  4       V4      w  ppVP'                  4       P%                  4       pVV,
          pVV,          V) P!                  4       ,          V,          VV) P)                  4       ,          V,          ,
          p V^ 8”  d4   V^ 8”  d-   V VV! VV,          V4      ,          V,          V,          ,           p V ! V VV,          3/ VB p!\#        VP%                  4       P!                  4       VP%                  4       P!                  4       V4      w  ppVP'                  4       P%                  4       p"V"V,
          p^V,
          V,          VV!,          ,           p#VV,          V) P!                  4       ,          V,          VV) P)                  4       ,          V#,          ,
          pV^ 8”  g   EKí  V^ 8”  g   EK÷  VVV! VV,          VV^,           ,          4      ,          V,          V,          ,           pEK4  	  V# )zDPM-Solver++ (stochastic).Nr`   T©r`   rU   rª   r  ré   r)   rÊ   r   rÌ   rJ   rÍ   rK   )r|   r:   r;   rå   rž   rÐ   r}   rã   rë   rì   r   r²   r®   r·   rê   rÑ   r'   rS   r­   r&   r/   )$rÓ   r   r"   rÔ   rÕ   rË   rP   rÙ   ræ   rÙ  r   r   r`   rÚ   rª   r×  r-  rÌ   rK   Úlambda_sÚlambda_tr»   Ú
lambda_s_1ÚfacÚ	sigma_s_1r2  Ú	alpha_s_1r3  r™  rš  Úlambda_s_1_Úh_ró   rô   Ú	lambda_t_Ú
denoised_ds$   &&&&&&&&&&                          r   Úsample_dpmpp_sderô  %  s�  € ô ˆ6ƒ{�aÔØˆà!Ò)‘¨z€JØ!¨1¡*Õ-×1Ñ1Ó3°V·Z±Z³\ˆyØ�>‰>˜& $Ó'€DØ^kÒ^sÔ,¨Q¸9ÐUYÕZð  zG€MØ�:‰:�q—w‘w˜q•z�lÓ#€Dà×&Ñ&×4Ñ4×EÑEÐFVÓW€NÜÔ,¸^ÔL€HÜÔ-¸nÔM€IÜ'¨Ó?€FØœ °¸sÓCÕC€Gä”C˜“K !•O¨W×5Ð5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆØÒÙ�c˜1˜c 1 g¨v°a­y¸+ÀvÈaÅyÐR\Ð^fÐgÔhØ�!�a•%�=˜AÔàŠAñ "+¨6°!­9Ó!5±yÀÈÈAÍÅÓ7O�hˆHØ˜8Õ#ˆAØ! A¨¥EÕ)ˆJØ�q˜1•u•+ˆCá  Ó,ˆIà˜Q•i (§,¡,£.Õ0ˆGØ! J§N¡NÓ$4Õ4ˆIØ˜Q �U•m h§l¡l£nÕ4ˆGô (¨¯©«×(:Ñ(:Ó(<¸j¿n¹nÓ>N×>RÑ>RÓ>TÐVYÓZ‰FˆB�ØŸ&™&›(Ÿ,™,›.ˆKØ˜xÕ'ˆBØ˜wÕ&¨B¨3¯)©)«+Õ5¸Õ9¸IÈ"ÈÏÉËÕ<UÐX`Õ<`Õ`ˆCØ�QŒw˜7 Qœ;Ø˜I©°f¸QµiÀÓ(KÕKÈgÕUÐXZÕZÕZ�Ù˜s I°Õ$4ÑC¸
ÑCˆJô (¨¯©«×(:Ñ(:Ó(<¸h¿l¹l»n×>PÑ>PÓ>RÐTWÓX‰FˆB�ØŸ™›Ÿ™›ˆIØ˜XÕ%ˆBØ˜c�' XÕ-°°jÕ0@Õ@ˆJØ˜7Õ"¨ s§i¡i£kÕ1°AÕ5¸ÀBÀ3Ç+Á+Ã-Õ8OÐR\Õ8\Õ\ˆAØ�Q�w˜7 QŸ;Ø˜¡-°°qµ	¸6À!ÀaÅ%½=Ó"IÕIÈGÕSÐVXÕXÕX“ñI 6ðJ €Hr   c                óR  € Vf   / MTpVP                  VP                  ^ ,          .4      pR pR pRp	\        \        V4      ^,
          VR7       EFQ  p
V ! WV
,          V,          3/ VB pVe   V! RVRV
RW*,          RW*,          R	V/4       V! W*,          4      V! W*^,           ,          4      rÜWÜ,
          pV	e   W*^,           ,          ^ 8X  d;   V! V4      V! V4      ,          V,          V) P	                  4       V,          ,
          pM–WÈ! W*^,
          ,          4      ,
          pWþ,          p^^^V,          ,          ,           V,          ^^V,          ,          V	,          ,
          pV! V4      V! V4      ,          V,          V) P	                  4       V,          ,
          pTp	EKT  	  V# )
úDPM-Solver++(2M).Nc                 ó>   € V P                  4       P                  4       # r’   rr  rÐ  s   &r   r=   Ú!sample_dpmpp_2m.<locals>.<lambda>d  rÒ  r   c                 ó>   € V P                  4       P                  4       # r’   rÔ  rÁ  s   &r   r=   rø  e  rÕ  r   rÊ   r   rÌ   rJ   rÍ   rK   )rÐ   r}   rÑ   r|   r/   )rÓ   r   r"   rÔ   rÕ   rË   rÚ   r×  rØ  Úold_denoisedrÌ   rK   r3   rz  r»   Úh_lastrÙ  ró  s   &&&&&&            r   Úsample_dpmpp_2mrü  _  sj  € ð "Ò)‘¨z€JØ�:‰:�q—w‘w˜q•z�lÓ#€DÙ&€HÙ*€DØ€Lä”C˜“K !•O¨W×5Ð5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆØÒÙ�c˜1˜c 1 g¨v­y¸+ÀvÅyÐR\Ð^fÐgÔhÙ˜�“O¡T¨&°Qµ­-Ó%8ˆ6Ø�JˆØÒ 6¨a­%¥=°AÔ#5Ù˜&Ó!¡H¨Q£KÕ/°1Õ4¸¸·z±z³|ÀhÕ7NÕN‰Aà˜˜f¨¥U�mÓ,Õ,ˆFØ•
ˆAØ˜a 1 q¥5�k�/¨XÕ5¸¸aÀ!½e½ÈÕ8TÕTˆJÙ˜&Ó!¡H¨Q£KÕ/°1Õ4¸¸·z±z³|ÀjÕ7PÕPˆAØ‹ñ 6ð €Hr   c
                óB  € \        V4      ^8:  d   V# V	R9  d   \        R4      hVf   / MTpVP                  RR4      p
W"^ 8„  ,          P                  4       VP	                  4       rËVf   \        WWÊRR7      MTpVP                  VP                  ^ ,          .4      pV P                  P                  P                  R4      p\        \        VR	7      p\        W.4      pV\        VR
R4      ,          pRpRRpp\        \        V4      ^,
          VR7       EF„  pV ! WV,          V,          3/ VB pVe!   V! RVRVRVV,          RVV,          RV/4       VV^,           ,          ^ 8X  d   TpEM(V! VV,          4      V! VV^,           ,          4      ppVV,
          pVV^,           ,          pVV^,           ,          VP!                  4       ,          pVV^,           ,          VV,          ,          V) V,          P!                  4       ,          V,          VV) P#                  4       P%                  4       ,          V,          ,           pVeÁ   VV,          pV	R8X  dZ   VVV) P#                  4       P%                  4       V) ,          ^,           ,          ^V,          ,          VV,
          ,          ,           pMWV	R8X  dQ   VRV,          V) P#                  4       P%                  4       ,          ^V,          ,          VV,
          ,          ,           pV^ 8”  d‡   V^ 8”  d€   W! VV,          VV^,           ,          4      VV^,           ,          ,          RV,          V,          P#                  4       P%                  4       P'                  4       ,          V,          ,           pTpTpEK‡  	  V# )zDPM-Solver++(2M) SDE.ÚheunÚmidpointz(solver_type must be 'heun' or 'midpoint'Nr`   Tré  rª   r  ré   r)   rÊ   r   rÌ   rJ   rÍ   rK   r?   >   rþ  rÿ  r!  )r|   r~   rå   r:   r;   rž   rÐ   r}   rã   rë   rì   r   r®   r·   rê   rÑ   r'   r/   r­   r-   )rÓ   r   r"   rÔ   rÕ   rË   rP   rÙ   ræ   Úsolver_typer`   r   r   rÚ   rª   r-  rú  r»   rû  rÌ   rK   rê  rë  Úh_etar3  rÙ  s   &&&&&&&&&&                r   Úsample_dpmpp_2m_sder  y  s  € ô ˆ6ƒ{�aÔØˆàÐ.Ô.ÜÐGÓHÐHà!Ò)‘¨z€JØ�>‰>˜& $Ó'€DØ!¨1¡*Õ-×1Ñ1Ó3°V·Z±Z³\ˆyØ^kÒ^sÔ,¨Q¸9ÐUYÕZð  zG€MØ�:‰:�q—w‘w˜q•z�lÓ#€Dà×&Ñ&×4Ñ4×EÑEÐFVÓW€NÜÔ-¸nÔM€IÜ'¨Ó?€FØœ °¸sÓCÕC€Gà€LØ�d€v€Aä”C˜“K !•O¨W×5Ð5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆØÒÙ�c˜1˜c 1 g¨v°a­y¸+ÀvÈaÅyÐR\Ð^fÐgÔhØ�!�a•%�=˜AÔàŠAñ "+¨6°!­9Ó!5±yÀÈÈAÍÅÓ7O�hˆHØ˜8Õ#ˆAØ˜˜q�•MˆEà˜Q �U•m h§l¡l£nÕ4ˆGà�q˜1•u•  q¥	Õ)¨a¨R°#­X¯N©NÓ,<Õ<¸qÕ@À7ÈuÈfÏ^É^ÓM]×MaÑMaÓMcÕCcÐfnÕCnÕnˆAàÒ'Ø˜Q•J�Ø &Ô(Ø˜G¨¨§~¡~Ó'7×';Ñ';Ó'=À%ÀÕ'HÈ1Õ'LÕMÐQRÐUVÕQVÕWÐ[cÐfrÕ[rÕsÕs‘AØ  JÔ.Ø˜C '�M¨e¨V¯N©NÓ,<×,@Ñ,@Ó,BÕBÀaÈ!ÅeÕLÐPXÐ[gÕPgÕhÕh�Aà�QŒw˜7 Qœ;Ø˜ f¨Q¥i°¸¸A½µÓ?À&ÈÈQÍÅ-ÕOÐSUÐXYÕSYÐ\_ÕS_×RfÑRfÓRh×RlÑRlÓRn×RsÑRsÓRuÕuÐxÕÕ�àˆØ‹ñ9 6ð: €Hr   c
                 ó"   € \        WW#WEWgW‰R 7
      # )©rÔ   rÕ   rË   rP   rÙ   ræ   r   )r  ©
rÓ   r   r"   rÔ   rÕ   rË   rP   rÙ   ræ   r   s
   &&&&&&&&&&r   Úsample_dpmpp_2m_sde_heunr  °  s"   € ä˜u¨ÐQYÐpsð  Ubô  |ð  |r   c	                ó  € \        V4      ^8:  d   V# Vf   / MTpVP                  RR4      p	W"^ 8„  ,          P                  4       VP                  4       rºVf   \	        WW¹RR7      MTpVP                  VP                  ^ ,          .4      pV P                  P                  P                  R4      p\        \        VR7      p\        W-4      pV\        VRR4      ,          pRRppRRRppp\        \        V4      ^,
          VR	7       EFÿ  pV ! WV,          V,          3/ VB pVe!   V! R
VRVRVV,          RVV,          RV/4       VV^,           ,          ^ 8X  d   TpEMŸV! VV,          4      V! VV^,           ,          4      ppVV,
          pVV^,           ,          pVV^,           ,          VP                  4       ,          pVV^,           ,          VV,          ,          V) V,          P                  4       ,          V,          VV) P!                  4       P#                  4       ,          V,          ,           pVeØ   VV,          pVV,          pVV,
          V,          pVV,
          V,          pVVV,
          V,          VV,           ,          ,           pVV,
          VV,           ,          pVP#                  4       P!                  4       V,          ^,           p V V,          R,
          p!VVV ,          V,          ,           VV!,          V,          ,
          pM`Ve]   VV,          p"VV,
          V",          p#VP#                  4       P!                  4       V,          ^,           p VVV ,          V#,          ,           pV^ 8”  d‡   V^ 8”  d€   W! VV,          VV^,           ,          4      VV^,           ,          ,          RV,          V,          P!                  4       P#                  4       P%                  4       ,          V,          ,           pTTppTTppEK  	  V# )zDPM-Solver++(3M) SDE.Nr`   Tré  rª   r  ré   r)   rÊ   r   rÌ   rJ   rÍ   rK   r?   r!  )r|   rå   r:   r;   rž   rÐ   r}   rã   rë   rì   r   r®   r·   rê   rÑ   r'   r/   r­   r-   )$rÓ   r   r"   rÔ   rÕ   rË   rP   rÙ   ræ   r`   r   r   rÚ   rª   r-  Ú
denoised_1rô   r»   Úh_1Úh_2rÌ   rK   rê  rë  r  r3  Úr0r€  Úd1_0Úd1_1Úd1Úd2Úphi_2Úphi_3rÙ  rÝ   s$   &&&&&&&&&                           r   Úsample_dpmpp_3m_sder  µ  sw  € ô ˆ6ƒ{�aÔØˆà!Ò)‘¨z€JØ�>‰>˜& $Ó'€DØ!¨1¡*Õ-×1Ñ1Ó3°V·Z±Z³\ˆyØ^kÒ^sÔ,¨Q¸9ÐUYÕZð  zG€MØ�:‰:�q—w‘w˜q•z�lÓ#€Dà×&Ñ&×4Ñ4×EÑEÐFVÓW€NÜÔ-¸nÔM€IÜ'¨Ó?€FØœ °¸sÓCÕC€Gà! 4�
€JØ˜˜dˆC€s€Aä”C˜“K !•O¨W×5Ð5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆØÒÙ�c˜1˜c 1 g¨v°a­y¸+ÀvÈaÅyÐR\Ð^fÐgÔhØ�!�a•%�=˜AÔàŠAá!*¨6°!­9Ó!5±yÀÈÈAÍÅÓ7O�hˆHØ˜8Õ#ˆAØ˜˜q�•MˆEà˜Q �U•m h§l¡l£nÕ4ˆGà�q˜1•u•  q¥	Õ)¨a¨R°#­X¯N©NÓ,<Õ<¸qÕ@À7ÈuÈfÏ^É^ÓM]×MaÑMaÓMcÕCcÐfnÕCnÕnˆAàŠà˜1•W�Ø˜1•W�Ø  :Õ-°Õ3�Ø" ZÕ/°2Õ5�Ø˜T D�[¨BÕ.°"°rµ'Õ:Õ:�Ø˜T•k b¨2¥gÕ.�ØŸ	™	›×)Ñ)Ó+¨eÕ3°aÕ7�Ø �¨Õ+�Ø˜ 5�¨BÕ.Õ.°'¸Eµ/ÀRÕ1GÕG‘Ø’à˜!•G�Ø 
Õ*¨aÕ/�ØŸ	™	›×)Ñ)Ó+¨eÕ3°aÕ7�Ø˜ 5�¨AÕ-Õ-�à�QŒw˜7 Qœ;Ø˜ f¨Q¥i°¸¸A½µÓ?À&ÈÈQÍÅ-ÕOÐSUÐXYÕSYÐ\_ÕS_×RfÑRfÓRh×RlÑRlÓRn×RsÑRsÓRuÕuÐxÕÕ�à!)¨:�Jˆ
Ø�cˆSˆŠSñM 6ðN €Hr   c	                 óî   € \        V4      ^8:  d   V# Vf   / MTpW"^ 8„  ,          P                  4       VP                  4       r©Vf   \        WW£P	                  RR4      RR7      MTp\        WW#WEWgVR7	      # )r   Nr`   Fré  ©rÔ   rÕ   rË   rP   rÙ   ræ   )r|   r:   r;   rž   rå   r  )rÓ   r   r"   rÔ   rÕ   rË   rP   rÙ   ræ   r   r   s   &&&&&&&&&  r   Úsample_dpmpp_3m_sde_gpur  ô  s�   € ä
ˆ6ƒ{�aÔØˆØ!Ò)‘¨z€JØ!¨1¡*Õ-×1Ñ1Ó3°V·Z±Z³\ˆyð xEò  xMÔ,¨Q¸9Ï>É>ÐZ`ÐbfÓKgÐmrÕsð  S`€MÜ˜u¨ÐQYÐpsð  Ubô  cð  cr   c
                 óî   € \        V4      ^8:  d   V# Vf   / MTpW"^ 8„  ,          P                  4       VP                  4       rºVf   \        WW³P	                  RR4      RR7      MTp\        WW#WEWgW‰R7
      # ©r   Nr`   Fré  r  )r|   r:   r;   rž   rå   r  ©rÓ   r   r"   rÔ   rÕ   rË   rP   rÙ   ræ   r   r   r   s   &&&&&&&&&&  r   Úsample_dpmpp_2m_sde_heun_gpur  þ  s�   € ä
ˆ6ƒ{�aÔØˆØ!Ò)‘¨z€JØ!¨1¡*Õ-×1Ñ1Ó3°V·Z±Z³\ˆyð xEò  xMÔ,¨Q¸9Ï>É>ÐZ`ÐbfÓKgÐmrÕsð  S`€MÜ# E¨fÐV^Ðuxð  Zgô  Að  Ar   c
                 óî   € \        V4      ^8:  d   V# Vf   / MTpW"^ 8„  ,          P                  4       VP                  4       rºVf   \        WW³P	                  RR4      RR7      MTp\        WW#WEWgW‰R7
      # r  )r|   r:   r;   rž   rå   r  r  s   &&&&&&&&&&  r   Úsample_dpmpp_2m_sde_gpur    s�   € ä
ˆ6ƒ{�aÔØˆØ!Ò)‘¨z€JØ!¨1¡*Õ-×1Ñ1Ó3°V·Z±Z³\ˆyð xEò  xMÔ,¨Q¸9Ï>É>ÐZ`ÐbfÓKgÐmrÕsð  S`€MÜ˜u¨ÐQYÐpsð  Ubô  |ð  |r   c
                 óî   € \        V4      ^8:  d   V# Vf   / MTpW"^ 8„  ,          P                  4       VP                  4       rºVf   \        WW³P	                  RR4      RR7      MTp\        WW#WEWgW‰R7
      # )r   Nr`   Fré  )rÔ   rÕ   rË   rP   rÙ   ræ   rÙ  )r|   r:   r;   rž   rå   rô  )rÓ   r   r"   rÔ   rÕ   rË   rP   rÙ   ræ   rÙ  r   r   s   &&&&&&&&&&  r   Úsample_dpmpp_sde_gpur    sŒ   € ä
ˆ6ƒ{�aÔØˆØ!Ò)‘¨z€JØ!¨1¡*Õ-×1Ñ1Ó3°V·Z±Z³\ˆyð xEò  xMÔ,¨Q¸9Ï>É>ÐZ`ÐbfÓKgÐmrÕsð  S`€MÜ˜E fÈhÐmpð  R_ô  eð  er   c                 ó¨  € ^W,          ^,           ,          p^W",          ^,           ,          pWV,          pRV,          P                  4       V ^V,
          V,          ^V,
          P                  4       ,          ,
          ,          pV^ 8”  dH   V^V,
          RV,
          ,          RV,
          ,          P                  4       V! W4      ,          ,          pV# )r   r)   )r-   )	r   rJ   Ú
sigma_prevÚnoiseræ   Úalpha_cumprodÚalpha_cumprod_prevÚalpharB   s	   &&&&&    r   ÚDDPMSampler_stepr$    sª   € Ø˜%�-¨1Õ,Õ-€MØ˜zÕ6¸!Õ;Õ<ÐØÕ/€Eà
��+×	Ñ	Ó	  a¨%¥i°5Õ%8¸AÀÕ<M×;SÑ;SÓ;UÕ%UÕ!UÕ	V€BØ�A„~Ø
��E•	˜bÐ#5Õ5Õ6¸"¸}Õ:LÕM×SÑSÓUÑXeÐfkÓXxÕxÕxˆØ€Ir   c                 ó¼  € Vf   / MTpVP                  RR 4      pVf   \        WR7      MTpVP                  VP                  ^ ,          .4      p	\	        \        V4      ^,
          VR7       Fë  p
V ! WV
,          V	,          3/ VB pVe   V! RVRV
RW*,          RW*,          RV/4       V! V\        P                  ! R	W*,          R
,          ,           4      ,          W*,          W*^,           ,          W,
          W*,          ,          V4      pW*^,           ,          ^ 8w  g   K³  V\        P                  ! R	W*^,           ,          R
,          ,           4      ,          pKí  	  V# )Nr`   rá   rÊ   r   rÌ   rJ   rÍ   rK   r)   ç       @)rå   ra   rÐ   r}   rÑ   r|   r   r-   )rÓ   r   r"   rÔ   rÕ   rË   ræ   Ústep_functionr`   rÚ   rÌ   rK   s   &&&&&&&&    r   Úgeneric_step_samplerr(  &  s&  € Ø!Ò)‘¨z€JØ�>‰>˜& $Ó'€DØ;HÒ;PÔ)¨!Õ7ÐVc€MØ�:‰:�q—w‘w˜q•z�lÓ#€Dä”C˜“K !•O¨W×5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆØÒÙ�c˜1˜c 1 g¨v­y¸+ÀvÅyÐR\Ð^fÐgÔhÙ˜!œeŸjšj¨¨v­y¸CÕ/?Õ)?Ó@Õ@À&Å)ÈVÐXYÕTYÍ]Ð]^Õ]iÐmsÕmvÕ\vð  yFó  GˆØ�a•%�=˜AÖØ”—’˜C &¨Q­¥-°3Õ"6Õ6Ó7Õ7ŠAñ 6ð €Hr   c           
      ó(   € \        WW#WEV\        4      # r’   )r(  r$  )rÓ   r   r"   rÔ   rÕ   rË   ræ   s   &&&&&&&r   Úsample_ddpmr*  6  s   € ä ¨&¸hÐQ^Ô`pÓqÐqr   c
                 ó�  € Vf   / MTpVP                  RR 4      p
Vf   \        WR7      MTpVP                  VP                  ^ ,          .4      p\	        ^\        V4      ^,
          4      pV P                  P                  P                  R4      p\        V4      pVf   TM
\        V4      p\        WÅR7       EF  pV ! WV,          V,          3/ VB pVe!   V! RVRVRVV,          RVV,          R	V/4       TpVV^,           ,          ^ 8”  g   KX  V! VV,          VV^,           ,          4      pV	^ 8”  d,   V	VP                  4       ,          pVP                  V) VR
7      pV^8”  d   VV^,
          ,          MRpWïV,
          V,          ,           pVR8w  d
   VV,          pVP                  VV^,           ,          VV4      pEK  	  V# )Nr`   rá   rª   rÊ   r   rÌ   rJ   rÍ   rK   r9   r5   r)   )rå   ra   rÐ   r}   r;   r|   rã   rë   rì   rŒ   rÑ   Ústdr<   Únoise_scaling)rÓ   r   r"   rÔ   rÕ   rË   ræ   rÙ   Ús_noise_endÚnoise_clip_stdr`   rÚ   Ún_stepsrª   Ús_startÚs_endrÌ   rK   r   Úclip_valr3   Ú	s_noise_is   &&&&&&&&&&            r   Ú
sample_lcmr5  :  s¢  € ð "Ò)‘¨z€JØ�>‰>˜& $Ó'€DØ;HÒ;PÔ)¨!Õ7ÐVc€MØ�:‰:�q—w‘w˜q•z�lÓ#€DÜ�!”S˜“[ 1•_Ó%€GØ×&Ñ&×4Ñ4×EÑEÐFVÓW€Nä�G‹n€GØ"Ò*‰G´°kÓ0B€EÜ�G×-Ð-ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆØÒÙ�c˜1˜c 1 g¨v°a­y¸+ÀvÈaÅyÐR\Ð^fÐgÔhàˆØ�!�a•%�=˜1ÖÙ! &¨¥)¨V°A¸µE­]Ó;ˆEØ Ô!Ø)¨E¯I©I«KÕ7�ØŸ™¨¨	°x˜Ó@�Ø'.°¤{��g •kÖ"¸ˆAØ¨7¥?°aÕ"7Õ7ˆIØ˜CÔØ 	Õ)�Ø×,Ñ,¨V°A¸µE­]¸EÀ1ÓE‹Añ .ð  €Hr   c
                 óÆ  € Vf   / MTpVP                  VP                  ^ ,          .4      p
VR	,          p\        \        V4      ^,
          VR7       EF
  pWrV,          u;8:  d   V8:  d'   M M#\	        V\        V4      ^,
          ,          R
4      MRp\
        P                  ! V4      V	,          pW,,          V^,           ,          pV^ 8”  d2   WV^,          W,,          ^,          ,
          R,          ,          ,           pV ! WV
,          3/ VB p\        WV4      pVe   V! RVRVRW,,          RVRV/4       W,^,           ,          V,
          pW,^,           ,          V8X  d   VVV,          ,           pEK!  W,^,           ,          V8X  d¢   VVV,          ,           pV ! VW,^,           ,          V
,          3/ VB p\        VW,^,           ,          V4      p^V^ ,          ,          pW,^,           ,          V,          p^V,
          pVV,          VV,          ,           pVVV,          ,           pEKÖ  VVV,          ,           pV ! VW,^,           ,          V
,          3/ VB p\        VW,^,           ,          V4      pW,^,           ,          W,^,           ,          ,
          pVVV,          ,           pV ! VW,^,           ,          V
,          3/ VB p\        VW,^,           ,          V4      p^V^ ,          ,          pW,^,           ,          V,          pW,^,           ,          V,          p^V,
          V,
          pVV,          VV,          ,           VV,          ,           pVVV,          ,           pEK  	  V# )NrÊ   r?   r5   r   rÌ   rJ   rÍ   rK   r†   rÎ   rÏ   )rÓ   r   r"   rÔ   rÕ   rË   rÖ   r×   rØ   rÙ   rÚ   r2  rÌ   rÛ   rÜ   rÍ   rK   rÝ   rÞ   ró   rô   rõ   r�   Úw2Úw1rö   rü   rŠ  Ú
denoised_3Úd_3Úw3s   &&&&&&&&&&                     r   Úsample_heunpp2r<  \  sË  € ð "Ò)‘¨z€JØ�:‰:�q—w‘w˜q•z�lÓ#€DØ�2�J€EÜ”C˜“K !•O¨W×5Ð5ˆØBHÐSTÍIÖB_ÐY_×B_”�Gœs 6›{¨Q�Õ/°Ô>ÐegˆÜ×Ò˜qÓ! GÕ+ˆØ•I ¨¥Õ+ˆ	Ø�1Œ9Ø˜9¨�>¨F­I¸­NÕ:¸sÕBÕBÕBˆAÙ˜¨Õ,Ñ;°
Ñ;ˆÜ�˜xÓ(ˆØÒÙ�c˜1˜c 1 g¨v­y¸+ÀyÐR\Ð^fÐgÔhØ˜•E�]˜YÕ&ˆØ�a•%�=˜EÔ!à�A˜•F•
‹AØ˜•E�]˜eÔ#ð �a˜"•f•*ˆCÙ˜s F¨q­5¥M°DÕ$8ÑG¸JÑGˆJÜ�s˜F q¥5�M¨:Ó6ˆCà�F˜1•I•ˆAØ˜!�•˜Q•ˆBØ�R•ˆBà˜"•f˜s R�xÕ'ˆGð �G˜b•LÕ ‹Að �a˜"•f•*ˆCÙ˜s F¨q­5¥M°DÕ$8ÑG¸JÑGˆJÜ�s˜F q¥5�M¨:Ó6ˆCØ˜a�%•= 6¨a­%¥=Õ0ˆDà˜˜d�
Õ"ˆCÙ˜s F¨q­5¥M°DÕ$8ÑG¸JÑGˆJÜ�s˜F q¥5�M¨:Ó6ˆCà�F˜1•I•ˆAØ˜A�• Õ"ˆBØ˜A�• Õ"ˆBØ�R•˜"•ˆBà˜1•f˜r C�xÕ'¨"¨s­(Õ2ˆGØ�G˜b•LÕ ‹Añ_ 6ð` €Hr   c                 ó„  € Vf   / MTpVP                  VP                  ^ ,          .4      pTp. p	\        \        V4      ^,
          VR7       EFî  p
W*,          pW*^,           ,          pTpV ! WÛV,          3/ VB pVe   V! RVRV
RW*,          RW*,          RV/4       WÞ,
          V,          p\	        Wj^,           4      pV^ 8X  d   TpEMV^8X  d   WÜV,
          V,          ,           pMúV^8X  d4   WÜV,
          ^V,          V	R,          ,
          ,          ^,          ,           pMÀV^8X  dP   WÜV,
          ^V,          ^V	R,          ,          ,
          ^V	R,          ,          ,           ,          ^,          ,           pMjV^8X  dd   WÜV,
          ^7V,          ^;V	R,          ,          ,
          ^%V	R,          ,          ,           ^	V	R	,          ,          ,
          ,          ^,          ,           p\        V	4      V^,
          8X  d4   \        V^,
          4       F  pV	V^,           ,          V	V&   K  	  WùR&   EKÝ  V	P                  V4       EKñ  	  V# ©
NrÊ   r   rÌ   rJ   rÍ   rK   r†   r!  éýÿÿÿ)rÐ   r}   rÑ   r|   r:   r  r%  )rÓ   r   r"   rÔ   rÕ   rË   Ú	max_orderrÚ   Úx_nextÚbuffer_modelrÌ   Út_currz  Úx_currK   Úd_curr
  r  s   &&&&&&&           r   Úsample_ipndmrF  —  s  € Ø!Ò)‘¨z€JØ�:‰:�q—w‘w˜q•z�lÓ#€Dà€Fà€LÜ”C˜“K !•O¨W×5Ð5ˆØ•	ˆØ˜A�•ˆàˆá˜¨¥Ñ;°
Ñ;ˆØÒÙ�c˜1˜c 1 g¨v­y¸+ÀvÅyÐR\Ð^fÐgÔhàÕ! UÕ*ˆä�I �sÓ#ˆØ�QŒ;ØŠFØ�aŒZØ u�n°Õ5Õ5‰FØ�aŒZØ u�n°°Uµ¸\È"Õ=MÕ1MÕNÐQRÕRÕR‰FØ�aŒZØ u�n°°eµ¸bÀ<ÐPRÕCSÕ>SÕ1SÐVWÐZfÐgiÕZjÕVjÕ1jÕkÐnpÕpÕp‰FØ�aŒZØ u�n°°eµ¸bÀ<ÐPRÕCSÕ>SÕ1SÐVXÐ[gÐhjÕ[kÕVkÕ1kÐnoÐr~ð  @Bõ  sCõ  oCõ  2Cõ  Dð  GIõ  Iõ  IˆFäˆ|Ó 	¨A¥Ô-Ü˜9 q�=Ö)�Ø".¨q°­sÕ"3�˜Q“ñ *à$˜Ôà×Ñ ×&ñ; 6ð> €Mr   c                 ód  € Vf   / MTpVP                  VP                  ^ ,          .4      pTpTp	. p
\        \        V4      ^,
          VR7       EFÜ  pW+,          pW+^,           ,          pTpV ! WìV,          3/ VB pVe   V! RVRVRW+,          RW+,          RV/4       Wï,
          V,          p\	        Wk^,           4      pV^ 8X  d   TpEMéV^8X  d   WíV,
          V,          ,           pEMÊV^8X  d{   WÜ,
          pWÉV^,
          ,          ,
          p^VV,          ,           ^,          pVV,          ) ^,          pWíV,
          VV,          VV
R,          ,          ,           ,          ,           pEMIV^8X  Ed5   WÜ,
          pWÉV^,
          ,          ,
          pW›^,
          ,          W›^,
          ,          ,
          p^V^VV,           ,          ,          VVV,           ,          ,          VVV,           ,          ,          ,
          ^,          p^VV,          ,           ^,          V,           pVV,          ) ^,          ^VV,          ,           V,          ,
          pVV,          V,          pWíV,
          VV,          VV
R,          ,          ,           VV
R,          ,          ,           ,          ,           pEMV^8X  Ed   WÜ,
          pWÉV^,
          ,          ,
          pW›^,
          ,          W›^,
          ,          ,
          pW›^,
          ,          W›^,
          ,          ,
          p^V^VV,           ,          ,          VVV,           ,          ,          VVV,           ,          ,          ,
          ^,          p^V^VV,           ,          ,          ,
          ^,          ^V^VV,           ,          ,          ,
          V,          ^VV,           V,           ,          ,          ,           VVV,           ,          VV,           V,           ,          ,          VVV,           ,          VV,           V,           ,          ,          p^VV,          ,           ^,          V,           V,           pVV,          ) ^,          ^VV,          ,           V,          ,
          ^VV,          ,           VVV,           ,          VVV,           ,          ,          ,           V,          ,
          pVV,          V,          VV,          VVV,           ,          VVV,           ,          ,          ^VV,          ,           ,          ,           V,          ,           pV) VVV,           ,          VVV,           ,          ,          ,          V,          V,          pWíV,
          VV,          VV
R,          ,          ,           VV
R,          ,          ,           VV
R	,          ,          ,           ,          ,           p\        V
4      V^,
          8X  dC   \        V^,
          4       F  pV
V^,           ,          V
V&   K  	  VP                  4       V
R&   EK½  V
P                  VP                  4       4       EKß  	  V# r>  )rÐ   r}   rÑ   r|   r:   r  r   r%  )rÓ   r   r"   rÔ   rÕ   rË   r@  rÚ   rA  Út_stepsrB  rÌ   rC  rz  rD  rK   rE  r
  Úh_nÚh_n_1Úcoeff1Úcoeff2Úh_n_2ÚtempÚcoeff3Úh_n_3Útemp1Útemp2Úcoeff4r  s   &&&&&&&                       r   Úsample_ipndm_vrT  Â  sc  € Ø!Ò)‘¨z€JØ�:‰:�q—w‘w˜q•z�lÓ#€Dà€FØ€Gà€LÜ”C˜“K !•O¨W×5Ð5ˆØ•	ˆØ˜A�•ˆàˆá˜¨¥Ñ;°
Ñ;ˆØÒÙ�c˜1˜c 1 g¨v­y¸+ÀvÅyÐR\Ð^fÐgÔhàÕ! UÕ*ˆä�I �sÓ#ˆØ�QŒ;ØŠFØ�aŒZØ u�n°Õ5Õ5ŠFØ�aŒZØ•>ˆCØ Q q¥S�\Õ)ˆEØ˜3 �;Õ'¨1Õ,ˆFØ˜U•{�^ aÕ'ˆFØ u�n°¸%µÀ&È<ÐXZÕK[ÕB[Õ1[Õ\Õ\ŠFØ�a�ZØ•>ˆCØ Q q¥S�\Õ)ˆEØ˜q�S•\ G¨a­C¥LÕ0ˆEØ˜˜q C¨%¥KÕ0Õ1°S¸CÀ%½KÕ5HÕIÈUÐV[Ð^cÕVcÕMdÕeÕeÐijÕjˆDØ˜3 �;Õ'¨1Õ,¨tÕ3ˆFØ˜U•{�^ aÕ'¨1¨u°u­}Õ+<ÀÕ*DÕDˆFØ˜E•\ EÕ)ˆFØ u�n°¸%µÀ&È<ÐXZÕK[ÕB[Õ1[Ð^dÐgsÐtvÕgwÕ^wÕ1wÕxÕxŠFØ�a�ZØ•>ˆCØ Q q¥S�\Õ)ˆEØ˜q�S•\ G¨a­C¥LÕ0ˆEØ˜q�S•\ G¨a­C¥LÕ0ˆEØ˜  S¨5¥[Õ 1Õ2°c¸SÀ5½[Õ6IÕJÈeÐW\Ð_dÕWdÕNeÕfÕfÐjkÕkˆEØ˜#  c¨E¥kÕ!2Õ3Õ3°qÕ8¸AÀÀqÈCÐRWÍKÕGXÕ@YÕ<YÐ]`Õ;`ÐdeÐilÐotÕitÐw|Õi|Õd}Õ;~Õ~Ø˜S 5�[Õ)¨S°5­[¸5Õ-@ÕAõCØFKÈuÐW\Í}ÕF]ÐafÐinÕanÐqvÕavÕFwõyˆEà˜3 �;Õ'¨1Õ,¨uÕ4°uÕ<ˆFØ˜U•{�^ aÕ'¨1¨u°u­}Õ+<ÀÕ*EÕEÈÈeÐV[ÍmÕI\Ð`eÐinÐqvÕivÕ`wð  |Að  EJð  MRõ  ERõ  |Sõ  aTõ  JUð  Y^õ  I^õ  ^ˆFØ˜U•] UÕ*¨u°u­}ÀÈ%ÐRWÍ-ÕAXÐ\aÐejÐmrÕerÕ\sÕAtÐyzð  ~Cð  FKõ  ~Kõ  zKõ  ALõ  /Lð  PUõ  .Uõ  UˆFØ�V˜u¨°­Õ6¸%À5È5Å=Õ:QÕRÕSÐV[Õ[Ð^cÕcˆFØ u�n°¸%µÀ&È<ÐXZÕK[ÕB[Õ1[Ð^dÐgsÐtvÕgwÕ^wÕ1wð  {Að  DPð  QSõ  DTõ  {Tõ  2Tõ  Uõ  UˆFäˆ|Ó 	¨A¥Ô-Ü˜9 q�=Ö)�Ø".¨q°­sÕ"3�˜Q“ñ *à$Ÿ|™|›~ˆL˜Ôà×Ñ §¡£×/ñg 6ðj €Mr   c                 óÎ  € Vf   / MTpVP                  VP                  ^ ,          .4      pTp	Tp
\        P                  ! W¦VR7      p. p\	        \        V4      ^,
          VR7       EFù  pW-,          pW-^,           ,          pT	pV ! VWè,          3/ VB pVe   V! RVRVRW-,          RW-,          RV/4       VV,
          V,          p\        Wm^,           4      pV^ 8:  d   ^pV^8X  d   VWþ,
          V,          ,           p	MéV^8X  d2   W½,          w  ppVVV,          ,           VVR,          ,          ,           p	M±V^8X  dH   W½,          w  pppVVV,          ,           VVR,          ,          ,           VVR	,          ,          ,           p	McV^8X  d]   W½,          w  ppppVVV,          ,           VVR,          ,          ,           VVR	,          ,          ,           VVR
,          ,          ,           p	\        V4      V^,
          8X  dC   \        V^,
          4       F  pVV^,           ,          VV&   K  	  VP                  4       VR&   EKÚ  VP                  VP                  4       4       EKü  	  V	# )N)Ú	deis_moderÊ   r   rÌ   rJ   rÍ   rK   r†   r!  r?  )
rÐ   r}   r   Úget_deis_coeff_listrÑ   r|   r:   r  r   r%  )rÓ   r   r"   rÔ   rÕ   rË   r@  rV  rÚ   rA  rH  Ú
coeff_listrB  rÌ   rC  rz  rD  rK   rE  r
  Ú	coeff_curÚcoeff_prev1Úcoeff_prev2Úcoeff_prev3r  s   &&&&&&&&                 r   Úsample_deisr]    s<  € à!Ò)‘¨z€JØ�:‰:�q—w‘w˜q•z�lÓ#€Dà€FØ€Gä×)Ò)¨'È	ÔR€Jà€LÜ”C˜“K !•O¨W×5Ð5ˆØ•	ˆØ˜A�•ˆàˆá˜ ¥Ñ;°
Ñ;ˆØÒÙ�c˜1˜c 1 g¨v­y¸+ÀvÅyÐR\Ð^fÐgÔhà˜Õ! UÕ*ˆä�I �sÓ#ˆØ�QŒ;ØˆEà�AŒ:Ø˜f�n°Õ5Õ5‰FØ�aŒZØ%/¥]Ñ"ˆI�{Ø˜Y¨Õ.Õ.°¸|ÈBÕ?OÕ1OÕO‰FØ�aŒZØ2<µ-Ñ/ˆI�{ KØ˜Y¨Õ.Õ.°¸|ÈBÕ?OÕ1OÕOÐR]Ð`lÐmoÕ`pÕRpÕp‰FØ�aŒZØ?I½}Ñ<ˆI�{ K°Ø˜Y¨Õ.Õ.°¸|ÈBÕ?OÕ1OÕOÐR]Ð`lÐmoÕ`pÕRpÕpÐs~ð  BNð  OQõ  BRõ  tRõ  RˆFäˆ|Ó 	¨A¥Ô-Ü˜9 q�=Ö)�Ø".¨q°­sÕ"3�˜Q“ñ *à$Ÿ|™|›~ˆL˜Ôà×Ñ §¡£×/ñC 6ðF €Mr   c	                óð  a€ Vf   / MTpVP                  RR4      p	Vf   \        WR7      MTpV P                  P                  P	                  R4      p
\        \        V
R7      pV\        V
RR4      ,          pRoV3R lpVP                  R	/ 4      P                  4       p\        P                  P                  WÜR
R7      VR	&   VP                  VP                  ^ ,          .4      p\        \        V4      ^,
          VR7       EFm  pV ! WV,          V,          3/ VB pVe   V! RVRVRW/,          RW/,          RV/4       W/^,           ,          ^ 8X  d   TpKU  W/,          V! W/,          4      P                  4       ,          pW/^,           ,          V! W/^,           ,          4      P                  4       ,          p\!        WV,          VS,          4      p\#        W/,          V,          W/^,           ,          V,          VR7      w  ppVV,          pVV,          VV,          ,           pV^ 8”  g   EK+  V^ 8”  g   EK5  VVV! W/,          W/^,           ,          4      ,          V,          V,          ,           pEKp  	  V# )z3Ancestral sampling with Euler method steps (CFG++).Nr`   rá   rª   r  ré   r)   c                 ó(   <€ V R ,          oV R,          # ©r  rK   rq   r  s   &€r   r  Ú8sample_euler_ancestral_cfg_pp.<locals>.post_cfg_functionB  ó   ø€ àÐ0Õ1ˆØ�JÕÐr   r  T©Údisable_cfg1_optimizationrÊ   r   rÌ   rJ   rÍ   rK   râ   )rå   ra   rã   rë   rì   r   r®   rê   r#  r©   r$  rÐ   r}   rÑ   r|   r'   rL   rS   )rÓ   r   r"   rÔ   rÕ   rË   rP   rÙ   ræ   r`   rª   r-  r  r  rÚ   rÌ   rK   r2  r3  rÝ   rR   rQ   r  s   &&&&&&&&&             @r   Úsample_euler_ancestral_cfg_ppre  5  s#  ø€ ð "Ò)‘¨z€JØ�>‰>˜& $Ó'€DØ;HÒ;PÔ)¨!Õ7ÐVc€Mà×&Ñ&×4Ñ4×EÑEÐFVÓW€NÜÔ-¸nÔM€IØœ °¸sÓCÕC€Gà€Oõ ð
 —N‘N ?°BÓ7×<Ñ<Ó>€MÜ"'×"5Ñ"5×"YÑ"YÐZgð  W[Ð"Yó  #\€JˆÑà�:‰:�q—w‘w˜q•z�lÓ#€DÜ”C˜“K !•O¨W×5Ð5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆØÒÙ�c˜1˜c 1 g¨v­y¸+ÀvÅyÐR\Ð^fÐgÔhØ�a•%�=˜AÔàŠAà•i¡)¨F­IÓ"6×":Ñ":Ó"<Õ<ˆGØ �U•m¡i°¸1µuµÓ&>×&BÑ&BÓ&DÕDˆGÜ�Q˜q�	 7¨_Õ#<Ó=ˆAô $6°fµiÀ'Õ6IÈ6ÐVWÕRWÍ=Ð[bÕKbÐhkÔ#lÑ ˆJ˜Ø  :Õ-ˆJð ˜(Õ" Z°!¥^Õ3ˆAØ�Q�w˜7 QŸ;Ø˜¡-°µ	¸6ÀaÅ%½=Ó"IÕIÈGÕSÐV^Õ^Õ^“ñ' 6ð( €Hr   c                ó$   € \        WW#WERRRR7	      # )zEuler method steps (CFG++).r5   Nr  )re  rF  s   &&&&&&r   Úsample_euler_cfg_pprg  b  s+   € ô )¨°6Ð[cÐz}ð  HKð  [_ô  `ð  `r   c	                óˆ  a€ Vf   / MTpVP                  RR4      p	Vf   \        WR7      MTpV\        V P                  P                  P                  R4      RR4      ,          p^ .oV3R lp
VP                  R/ 4      P                  4       p\        P                  P                  WºR	R
7      VR&   VP                  VP                  ^ ,          .4      pR pR p\        \        V4      ^,
          VR7       EFÅ  pV ! WV,          V,          3/ VB p\        W/,          W/^,           ,          VR7      w  ppVe   V! RVRVRW/,          RW/,          RV/4       V^ 8X  d,   \        WV,          S^ ,          4      pVVV,          ,           pMëV! W/,          4      V! V4      ppRpVV,
          pVVV,          ,           pV! V4      V! V4      ,          VVS^ ,          ,
          ,           ,          V) V,          P                  4       V,          ,
          pV ! VV! V4      V,          3/ VB pV! V4      V! V4      ,          VVS^ ,          ,
          ,           ,          V) P                  4       V,          ,
          pW/^,           ,          ^ 8”  g   EK•  W! W/,          W/^,           ,          4      V,          V,          ,           pEKÈ  	  V# )rÜ  Nr`   rá   rª   ré   r)   c                 ó.   <€ V R ,          S^ &   V R,          # r`  rq   )r  rN  s   &€r   r  Ú;sample_dpmpp_2s_ancestral_cfg_pp.<locals>.post_cfg_functionq  s   ø€ ØÐ(Õ)ˆˆQ‰Ø�JÕÐr   r  Trc  c                 ó>   € V P                  4       P                  4       # r’   rr  rÐ  s   &r   r=   Ú2sample_dpmpp_2s_ancestral_cfg_pp.<locals>.<lambda>y  rÒ  r   c                 ó>   € V P                  4       P                  4       # r’   rÔ  rÁ  s   &r   r=   rl  z  rÕ  r   rÊ   râ   r   rÌ   rJ   rÍ   rK   r?   )rå   ra   rê   rã   rë   rì   r#  r©   r$  rÐ   r}   rÑ   r|   rS   rL   r/   )rÓ   r   r"   rÔ   rÕ   rË   rP   rÙ   ræ   r`   r  r  rÚ   r×  rØ  rÌ   rK   rR   rQ   rÝ   r3   rz  rÙ  r»   rk   ró   rô   rN  s   &&&&&&&&&                  @r   Ú sample_dpmpp_2s_ancestral_cfg_pprn  h  st  ø€ ð "Ò)‘¨z€JØ�>‰>˜& $Ó'€DØ;HÒ;PÔ)¨!Õ7ÐVc€MØœ × 1Ñ 1× ?Ñ ?× PÑ PÐQaÓ bÐdqÐsvÓwÕw€Gàˆ3€Dõ ð —N‘N ?°BÓ7×<Ñ<Ó>€MÜ"'×"5Ñ"5×"YÑ"YÐZgð  W[Ð"Yó  #\€JˆÑà�:‰:�q—w‘w˜q•z�lÓ#€DÙ&€HÙ*€Dä”C˜“K !•O¨W×5Ð5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆÜ1°&µ)¸VÈÅE½]ÐPSÔTÑˆ
�HØÒÙ�c˜1˜c 1 g¨v­y¸+ÀvÅyÐR\Ð^fÐgÔhØ˜Œ?ä�Q˜q�	 4¨¥7Ó+ˆAØ˜1˜z�>Õ)‰Añ ˜V�Y›©¨jÓ)9ˆvˆAàˆAØ˜•
ˆAØ�A˜•E•	ˆAÙ˜A“;¡¨!£Õ,°°hÀÀaÅÕ6HÕ1IÕJÈqÈbÐSTÍfÏ^É^ÓM]Ð`hÕMhÕhˆCÙ˜s¡H¨Q£K°$Õ$6ÑE¸*ÑEˆJÙ˜&Ó!¡H¨Q£KÕ/°A¸ÀDÈÅGÕ9KÕ4LÕMÐRSÐQS×PZÑPZÓP\Ð_iÕPiÕiˆAà�a•%�=˜1×Ø�M &¥)¨V¸µE­]Ó;¸gÕEÈÕPÕP‹Añ+ 6ð, €Hr   c                óà  a€ Vf   / MTpVP                  VP                  ^ ,          .4      pR pRpRoV3R lp	VP                  R/ 4      P                  4       p
\        P
                  P                  W©RR7      VR&   \        \        V4      ^,
          VR7       EFN  pV ! WV,          V,          3/ VB pVe   V! RVR	VR
W+,          RW+,          RV/4       V! W+,          4      V! W+^,           ,          4      ríWí,
          pVe   W+^,           ,          ^ 8X  d!   \        P                  ! V) 4      ) S,          pM�W×! W+^,
          ,          4      ,
          pVV,          p\        P                  ! V) 4      ) S,          \        P                  ! V) 4      ^^V,          ,          ,          WÈ,
          ,          ,
          pVV,           \        P                  ! V) 4      V,          ,           pSpEKQ  	  V# )rö  Nc                 ó>   € V P                  4       P                  4       # r’   rÔ  rÁ  s   &r   r=   Ú(sample_dpmpp_2m_cfg_pp.<locals>.<lambda>™  rÕ  r   c                 ó(   <€ V R ,          oV R,          # r`  rq   r  s   &€r   r  Ú1sample_dpmpp_2m_cfg_pp.<locals>.post_cfg_function�  rb  r   r  Trc  rÊ   r   rÌ   rJ   rÍ   rK   )rÐ   r}   rå   r#  r©   rë   r$  rÑ   r|   r   r'   r/   )rÓ   r   r"   rÔ   rÕ   rË   rÚ   rØ  Úold_uncond_denoisedr  r  rÌ   rK   r3   rz  r»   Údenoised_mixrû  rÙ  r  s   &&&&&&             @r   Úsample_dpmpp_2m_cfg_pprv  ”  s¶  ø€ ð "Ò)‘¨z€JØ�:‰:�q—w‘w˜q•z�lÓ#€DÙ*€DàÐØ€Oõ ð
 —N‘N ?°BÓ7×<Ñ<Ó>€MÜ"'×"5Ñ"5×"YÑ"YÐZgð  W[Ð"Yó  #\€JˆÑä”C˜“K !•O¨W×5Ð5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆØÒÙ�c˜1˜c 1 g¨v­y¸+ÀvÅyÐR\Ð^fÐgÔhÙ˜�“O¡T¨&°Qµ­-Ó%8ˆ6Ø�JˆØÒ&¨&°Qµ­-¸1Ô*<Ü!ŸIšI q b›M˜>¨OÕ;‰Là˜˜f¨¥U�mÓ,Õ,ˆFØ˜•
ˆAÜ!ŸIšI q b›M˜>¨OÕ;¼e¿kºkÈ1È"»oÐQRÐVWÐZ[ÕV[ÕQ\Õ>]ÐaiÕaõ  ?Aõ  AˆLØ�|Õ#¤e§i¢i°°£m°aÕ&7Õ7ˆØ-Óñ 6ð €Hr   c
                 ó¨  a#a$€ Vf   / MTpVP                  RR 4      p
Vf   \        WR7      MTpV\        V P                  P                  P                  R4      RR4      ,          pVP                  VP                  ^ ,          .4      pR pR pR o#V#3R	 lpR pR pR o$V$3R
 lpV	'       dF   VP                  R/ 4      P                  4       p\        P                  P                  VVRR7      VR&   \        \        V4      ^,
          VR7       EF?  pV ! WV,          V,          3/ VB p\        VV,          VV^,           ,          VR7      w  ppVe!   V! RVRVRVV,          RVV,          RV/4       V^ 8X  g   Vfc   V	'       d&   \        WV,          S$4      pVVV,          ,           pEMZ\        WV,          V4      pVVV,          ,
          pVVV,          ,           pEM%V! VV,          4      V! V4      V! V4      V! VV^,
          ,          4      3w  ppppVV,
          pVV,
          V,          pS#! V) 4      V! V) 4      p p\        P                   ! VV V,          ,
          RR7      p!\        P                   ! V V,          RR7      p"V	'       dD   VVS$,
          ,           pV! V4      V,          VV!S$,          V"V,          ,           ,          ,           pM2V! V4      V,          VV!V,          V"V,          ,           ,          ,           pV^ 8”  d3   W! VV,          VV^,           ,          4      V,          V,          ,           pV	'       d   S$pMTpTpEKB  	  V# )Nr`   rá   rª   ré   r)   c                 ó>   € V P                  4       P                  4       # r’   rr  rÐ  s   &r   r=   Úres_multistep.<locals>.<lambda>¼  rÒ  r   c                 ó>   € V P                  4       P                  4       # r’   rÔ  rÁ  s   &r   r=   ry  ½  rÕ  r   c                 ó<   € \         P                  ! V 4      V ,          # r’   rÂ   rÐ  s   &r   r=   ry  ¾  s   € œŸš A›¨Ö*r   c                 ó0   <€ S! V 4      R ,
          V ,          # r  rq   )r3   Úphi1_fns   &€r   r=   ry  ¿  s   ø€ ™ › cÕ)¨QÖ.r   c                 ó(   <€ V R ,          oV R,          # r`  rq   r  s   &€r   r  Ú(res_multistep.<locals>.post_cfg_functionÄ  rb  r   r  Trc  rÊ   râ   r   rÌ   rJ   rÍ   rK   r5   ©Únan)rå   ra   rê   rã   rë   rì   rÐ   r}   r#  r©   r$  rÑ   r|   rS   rL   r   Ú
nan_to_num)%rÓ   r   r"   rÔ   rÕ   rË   rÙ   ræ   rP   Úcfg_ppr`   rÚ   r×  rØ  Úphi2_fnÚold_sigma_downrú  r  r  rÌ   rK   rR   rQ   rÝ   rÞ   r3   Út_oldrz  Út_prevr»   Úc2Úphi1_valÚphi2_valrQ  rR  r}  r  s%   &&&&&&&&&&                         @@r   Úres_multistepr‹  µ  s  ù€ à!Ò)‘¨z€JØ�>‰>˜& $Ó'€DØ;HÒ;PÔ)¨!Õ7ÐVc€MØœ × 1Ñ 1× ?Ñ ?× PÑ PÐQaÓ bÐdqÐsvÓwÕw€GØ�:‰:�q—w‘w˜q•z�lÓ#€DÙ&€HÙ*€DÙ*€GÜ.€Gà€NØ€LØ€Oõ ÷
 Ø"Ÿ™ ¸Ó;×@Ñ@ÓBˆÜ&+×&9Ñ&9×&]Ñ&]Ð^kÐm~ð  [_Ð&]ó  '`ˆ
�?Ñ#ä”C˜“K !•O¨W×5Ð5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆÜ1°&¸µ)¸VÀAÈÅE½]ÐPSÔTÑˆ
�HØÒÙ�c˜1˜c 1 g¨v°a­y¸+ÀvÈaÅyÐR\Ð^fÐgÔhØ˜Œ?˜lÒ2çÜ˜ 1�I Ó7�Ø˜q :�~Õ-’ä˜ 1�I xÓ0�Ø &¨¥)Õ+�Ø˜˜B�•J’ñ (,¨F°1­I£¹¸^Ó8LÉdÐS]ÓN^Ñ`dÐekÐlmÐpqÕlqÕerÓ`sÐ'sÑ$ˆAˆu�f˜fØ˜•
ˆAØ˜5•. AÕ%ˆBá!(¨!¨£©g°q°b«k�hˆHÜ×!Ò! (¨X¸­]Õ":ÀÔDˆBÜ×!Ò! (¨R¥-°SÔ9ˆBçØ˜ OÕ3Õ4�Ù˜Q“K !•O a¨2°Õ+?À"À|ÕBSÕ+SÕ&TÕT‘á˜Q“K !•O a¨2°­=¸2ÀÕ;LÕ+LÕ&MÕM�ð �aŒ<Ø�M &¨¥)¨V°A¸µE­]Ó;¸gÕEÈÕPÕPˆAçØ*‰Là#ˆLØ#‹ñM 6ðN €Hr   c                 ó$   € \        WW#WEWgR RR7
      # )r5   F©rÔ   rÕ   rË   rÙ   ræ   rP   rƒ  ©r‹  ©rÓ   r   r"   rÔ   rÕ   rË   rÙ   ræ   s   &&&&&&&&r   Úsample_res_multistepr�  ö  s(   € ä˜ 6È8Ðnuð  Y[ð  diô  jð  jr   c                 ó$   € \        WW#WEWgR RR7
      # )r5   Tr�  rŽ  r�  s   &&&&&&&&r   Úsample_res_multistep_cfg_ppr’  ú  s(   € ä˜ 6È8Ðnuð  Y[ð  dhô  ið  ir   c	                 ó$   € \        WW#WEWxVR R7
      # )Fr�  rŽ  ©	rÓ   r   r"   rÔ   rÕ   rË   rP   rÙ   ræ   s	   &&&&&&&&&r   Úsample_res_multistep_ancestralr•  þ  s(   € ä˜ 6È8Ðnuð  Y\ð  ejô  kð  kr   c	                 ó$   € \        WW#WEWxVR R7
      # )Tr�  rŽ  r”  s	   &&&&&&&&&r   Ú%sample_res_multistep_ancestral_cfg_ppr—    s(   € ä˜ 6È8Ðnuð  Y\ð  eiô  jð  jr   c                óR  a€ Vf   / MTpVP                  VP                  ^ ,          .4      pRp	RoV3R lp
V'       dE   VP                  R/ 4      P                  4       p\        P
                  P                  WºRR7      VR&   \        \        V4      ^,
          VR7       EF  pV ! WV,          V,          3/ VB pV'       d   \        WV,          S4      pM\        WV,          V4      pVe   V! RVRVR	W,,          R
W,,          RV/4       W,^,           ,          W,,          ,
          pW,^,           ,          ^ 8X  d   TpMaV'       d   WÞW,^,           ,          ,          ,           pMWV,          ,           pV^8¼  d'   V^,
          Wé,
          ,          pVVV,          ,           pTp	EK  	  V# )zLGradient-estimation sampler. Paper: https://openreview.net/pdf?id=o2ND9v0CeKNc                 ó(   <€ V R ,          oV R,          # r`  rq   r  s   &€r   r  Ú5sample_gradient_estimation.<locals>.post_cfg_function  rb  r   r  Trc  rÊ   r   rÌ   rJ   rÍ   rK   )
rÐ   r}   rå   r#  r©   rë   r$  rÑ   r|   rL   )rÓ   r   r"   rÔ   rÕ   rË   Úge_gammarƒ  rÚ   Úold_dr  r  rÌ   rK   rÝ   rÞ   Úd_barr  s   &&&&&&&&         @r   Úsample_gradient_estimationrž    sw  ø€ ð "Ò)‘¨z€JØ�:‰:�q—w‘w˜q•z�lÓ#€DØ€Eà€Oõ ÷
 Ø"Ÿ™ ¸Ó;×@Ñ@ÓBˆÜ&+×&9Ñ&9×&]Ñ&]Ð^kð  [_Ð&]ó  '`ˆ
�?Ñ#ä”C˜“K !•O¨W×5Ð5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆßÜ�Q˜q�	 ?Ó3‰Aä�Q˜q�	 8Ó,ˆAØÒÙ�c˜1˜c 1 g¨v­y¸+ÀvÅyÐR\Ð^fÐgÔhØ˜•E�]˜V�YÕ&ˆØ�a•%�=˜AÔà‰A÷ Ø 6¨a­%¥=Õ0Õ0‘à˜B�•J�à�AŒvà! A�¨!­)Õ4�Ø˜ �
•N�Ø‹ñ/ 6ð0 €Hr   c                 ó"   € \        WW#WEVR R7      # )T)rÔ   rÕ   rË   r›  rƒ  )rž  )rÓ   r   r"   rÔ   rÕ   rË   r›  s   &&&&&&&r   Ú!sample_gradient_estimation_cfg_ppr   3  s&   € ä% e°ÐX`ð  }Eð  NRô  Sð  Sr   c
                ó   € Vf   / MTpVP                  RR4      p
Vf   \        WR7      MTpV\        V P                  P                  P                  R4      RR4      ,          pVP                  VP                  ^ ,          .4      pR pVf   TMTpRp\        P                  ! ^ V\        P                  VP                  R	7      pV P                  P                  P                  R4      p\        W/4      p\        W/4      pVP                  4       P                  4       pRpRp\!        \#        V4      ^,
          VR
7       EF¹  pV ! WV,          V,          3/ VB pVe!   V! RVRVRVV,          RVV,          RV/4       \%        V	V^,           4      pVV^,           ,          ^ 8X  d   TpEMLVV,          VV^,           ,          ppVV,          V,          pVV^,           ,          V,          pVV,          pV! V4      V! V4      ,          pVV,          V,          V^V,
          ,          V,          ,           pV^8¼  Ed9   VV,
          pV) V,          pVVV,          ,           pV! V4      p \        P&                  ! ^V ,          4      V,          p!VV,
          VVV^,
          ,          ,
          ,          p"VVVV!V! V4      ,          ,           ,          V",          ,           pV^8¼  d‘   \        P&                  ! VV,
          V ,          4      V,          p#V"V,
          VVV^,
          ,          ,
          ^,          ,          p$VVV^,          ^,          V#V! V4      ,          ,           ,          V$,          ,           pT"pV^ 8”  d|   VVV! VV,          VV^,           ,          4      ,          V,          V^,          V^,          V^,          ,          ,
          P)                  4       P+                  RR7      ,          ,           pTpEK¼  	  V# )z¸Extended Reverse-Time SDE solver (VP ER-SDE-Solver-3). arXiv: https://arxiv.org/abs/2309.06169.
Code reference: https://github.com/QinpengCui/ER-SDE-Solver/blob/main/er_sde_solver.py.
Nr`   rá   rª   ré   r)   c                 óJ   € W R ,          P                  4       R,           ,          # )g333333Ó?g      $@rÞ  r   s   &r   Údefault_er_sde_noise_scalerÚ2sample_er_sde.<locals>.default_er_sde_noise_scalerC  s   € Ø˜#•X—N‘NÓ$ tÕ+Õ,Ð,r   g      i@)rW   r   rÊ   r   rÌ   rJ   rÍ   rK   r5   r€  )rå   ra   rê   rã   rë   rì   rÐ   r}   r   ÚarangeÚfloat32r   r·   r®   r­   r'   rÑ   r|   r:   r&  r-   r‚  )%rÓ   r   r"   rÔ   rÕ   rË   rÙ   ræ   Únoise_scalerÚ	max_stager`   rÚ   r£  Únum_integration_pointsÚpoint_indicerª   Úhalf_log_snrsÚ
er_lambdasrú  Úold_denoised_drÌ   rK   Ú
stage_usedÚer_lambda_sÚer_lambda_tr2  r3  Úr_alpharÙ  rÞ   Úlambda_step_sizeÚ
lambda_posÚ
scaled_posrk   ró  Ús_uÚ
denoised_us%   &&&&&&&&&&                           r   Úsample_er_sder·  8  sÁ  € ð
 "Ò)‘¨z€JØ�>‰>˜& $Ó'€DØ;HÒ;PÔ)¨!Õ7ÐVc€MØœ × 1Ñ 1× ?Ñ ?× PÑ PÐQaÓ bÐdqÐsvÓwÕw€GØ�:‰:�q—w‘w˜q•z�lÓ#€Dò-ð 3?Ò2FÑ.ÈL€LØ"ÐÜ—<’< Ð#9ÄÇÁÐWX×W_ÑW_Ô`€Là×&Ñ&×4Ñ4×EÑEÐFVÓW€NÜ'¨Ó?€FÜ)¨&ÓA€MØ×"Ñ"Ó$×(Ñ(Ó*€Jà€LØ€Nä”C˜“K !•O¨W×5Ð5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆØÒÙ�c˜1˜c 1 g¨v°a­y¸+ÀvÈaÅyÐR\Ð^fÐgÔhÜ˜ A¨¥EÓ*ˆ
Ø�!�a•%�=˜AÔØŠAà'1°!¥}°jÀÀQÅÕ6G˜ˆKØ˜Q•i +Õ-ˆGØ˜Q �U•m kÕ1ˆGØ Õ'ˆGÙ˜[Ó)©L¸Ó,EÕEˆAð ˜!•˜a• '¨Q°­UÕ"3°hÕ">Õ>ˆAà˜Q�Ø  ;Õ.�Ø$& 3Ð)?Õ#?Ð Ø(¨<Ð:JÕ+JÕJ�
Ù)¨*Ó5�
ô —I’I˜a *�nÓ-Ð0@Õ@�Ø&¨Õ5¸+È
ÐSTÐWXÕSXÕHYÕ:YÕZ�
Ø˜ 2¨©L¸Ó,EÕ(EÕ#EÕFÈÕSÕS�à ”?äŸ)š) Z°+Õ%=ÀÕ$KÓLÐO_Õ_�CØ",¨~Õ"=À;ÐQ[Ð\]Ð`aÕ\aÕQbÕCbÐfgÕBgÕ!h�JØ˜G¨¨a­°1¥}°s¹\È+Ó=VÕ7VÕ'VÕWÐZdÕdÕd�AØ!+�à˜Œ{Ø˜¡-°°qµ	¸6À!ÀaÅ%½=Ó"IÕIÈGÕSÐWbÐfgÕWgÐjuÐyzÕjzÐ}~ð  CDõ  ~Dõ  kDõ  XD÷  WJñ  WJó  WL÷  WWñ  WWð  \_ð  WWó  W`õ  `õ  `�Ø‹ñK 6ðL €Hr   c                ól	  € V
R9  d   \        R4      hVf   / MTpVP                  RR4      pVf   \        WR7      MTpVP                  VP                  ^ ,          .4      pV P
                  P                  P                  R4      pV\        VRR	4      ,          pV^ 8„  ;'       d    V^ 8„  p\        \        VR
7      p\        \        VR
7      p\        W-4      p^^V	,          ,          p\        \        V4      ^,
          VR7       EF¨  pV ! WV,          V,          3/ VB pVe!   V! RVRVRVV,          RVV,          RV/4       VV^,           ,          ^ 8X  d   TpKX  V! VV,          4      V! VV^,           ,          4      ppVV,
          pVV^,           ,          p\        P                   ! VVV	4      pV! V4      pVVP#                  4       ,          pVV^,           ,          VP#                  4       ,          pVVV,          ,          V	) V,          V,          P#                  4       ,          V,          V\%        V	) V,          4      ,          V,          ,
          pV'       dn   RV	,          V,          V,          P'                  4       P)                  4       P+                  4       V! VV,          V4      ,          pVVV,          V,          ,           pV ! VVV,          3/ VB pV
R8X  d{   \        P                   ! VVV4      pVV^,           ,          VV,          ,          V) V,          P#                  4       ,          V,          V\%        V) 4      ,          V,          ,
          pM’V
R8X  dŒ   \-        V) 4      V	,          p \%        V) 4      V ,
          p!VV^,           ,          VV,          ,          V) V,          P#                  4       ,          V,          VV!V,          V V,          ,           ,          ,
          pV'       g   EK÷  V	^,
          V,          V,          p"XV"P#                  4       ,          pVV"P/                  ^4      P'                  4       P)                  4       P+                  4       V! VVV^,           ,          4      ,          ,           pVVVV^,           ,          ,          V,          ,           pEK«  	  V# )z—SEEDS-2 - Stochastic Explicit Exponential Derivative-free Solvers (VP Data Prediction) stage 2.
arXiv: https://arxiv.org/abs/2305.14267 (NeurIPS 2023)
Úphi_1r  z&solver_type must be 'phi_1' or 'phi_2'Nr`   rá   rª   ré   r)   r  rÊ   r   rÌ   rJ   rÍ   rK   >   r¹  r  r!  )r~   rå   ra   rÐ   r}   rã   rë   rì   rê   r   r²   r®   r·   rÑ   r|   r   rù   r'   rÄ   r/   r­   r-   rÇ   Úmul)#rÓ   r   r"   rÔ   rÕ   rË   rP   rÙ   ræ   rÙ  r   r`   rÚ   rª   Úinject_noiser×  r-  rí  rÌ   rK   rê  rë  r»   r  rì  rî  rï  r3  ró   Ú	sde_noiserô   ró  rR  rQ  Úsegment_factors#   &&&&&&&&&&&                        r   Úsample_seeds_2r¾  {  sò  € ð
 Ð,Ô,ÜÐAÓBÐBà!Ò)‘¨z€JØ�>‰>˜& $Ó'€DØ;HÒ;PÔ)¨!Õ7ÐVc€MØ�:‰:�q—w‘w˜q•z�lÓ#€Dà×&Ñ&×4Ñ4×EÑEÐFVÓW€NØœ °¸sÓCÕC€GØ˜‘7×*Ð*˜w¨™{€LÜÔ,¸^ÔL€HÜÔ-¸nÔM€IÜ'¨Ó?€Fà
ˆq�1�u�+€Cä”C˜“K !•O¨W×5Ð5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆØÒÙ�c˜1˜c 1 g¨v°a­y¸+ÀvÈaÅyÐR\Ð^fÐgÔhà�!�a•%�=˜AÔØˆAÙá& v¨a¥yÓ1±9¸VÀAÈÅE½]Ó3K�(ˆØ�xÕˆØ�S˜1•W•ˆÜ—Z’Z ¨(°AÓ6ˆ
Ù˜ZÓ(ˆ	à 
§¡Ó 0Õ0ˆ	Ø˜˜Q�•- (§,¡,£.Õ0ˆð ˜& �)Õ#¨ r¨A¥v°¥|×&8Ñ&8Ó&:Õ:¸QÕ>ÀÌZÐYZÐXZÐ]bÕXbÓMcÕAcÐfnÕAnÕnˆßØ˜a� !� cÕ)×0Ñ0Ó2×6Ñ6Ó8×=Ñ=Ó?Á-ÐPVÐWXÕPYÐ[dÓBeÕeˆIØ˜	 IÕ-°Õ7Õ7ˆCÙ˜3 	¨DÕ 0Ñ?°JÑ?ˆ
ð ˜'Ô!ÜŸš H¨j¸#Ó>ˆJØ�q˜1•u•  q¥	Õ)¨a¨R°#­X¯N©NÓ,<Õ<¸qÕ@À7ÌZÐY^ÐX^ÓM_ÕC_ÐblÕClÕl‰AØ˜GÔ#Ü˜U˜FÓ# aÕ'ˆBÜ˜U˜FÓ# bÕ(ˆBØ�q˜1•u•  q¥	Õ)¨a¨R°#­X¯N©NÓ,<Õ<¸qÕ@À7ÈbÐS[ÍmÐ^`ÐcmÕ^mÕNmÕCnÕnˆAçŠ<Ø !�e q�[¨3Õ.ˆNØ! N×$6Ñ$6Ó$8Õ8ˆIØ! N×$6Ñ$6°qÓ$9×$?Ñ$?Ó$A×$EÑ$EÓ$G×$LÑ$LÓ$NÑQ^Ð_hÐjpÐqrÐuvÕqvÕjwÓQxÕ$xÕxˆIØ�I  q¨1¥u¥Õ-°Õ7Õ7‹AñM 6ðN €Hr   c                ó(   € \        WW#WERRRRVR7      # )z[Deterministic exponential Heun second order method in data prediction (x0) and logSNR time.r5   Nr)   ©rÔ   rÕ   rË   rP   rÙ   ræ   rÙ  r   ©r¾  )rÓ   r   r"   rÔ   rÕ   rË   r   s   &&&&&&&r   Úsample_exp_heun_2_x0rÂ  º  s4   € ô ˜% FÈHÐknÐx{ð  LPð  TWð  epô  qð  qr   c
                ó&   € \        WW#WEWgVRV	R7      # )zXStochastic exponential Heun second order method in data prediction (x0) and logSNR time.r)   rÀ  rÁ  r  s
   &&&&&&&&&&r   Úsample_exp_heun_2_x0_sderÄ  À  s1   € ô ˜% FÈHÐknð  P]ð  adð  r}ô  ~ð  ~r   c                ó  € Vf   / MTpVP                  RR4      pVf   \        WR7      MTpVP                  VP                  ^ ,          .4      pV P                  P
                  P                  R4      pV\        VRR4      ,          pV^ 8„  ;'       d    V^ 8„  p\        \        VR7      p\        \        VR7      p\        W-4      p\        \        V4      ^,
          VR7       EFœ  pV ! WV,          V,          3/ VB pVe!   V! R	VR
VRVV,          RVV,          RV/4       VV^,           ,          ^ 8X  d   TpKX  V! VV,          4      V! VV^,           ,          4      ppVV,
          pVV^,           ,          p\        P                  ! VVV	4      p\        P                  ! VVV
4      pV! V4      V! V4      ppVVP!                  4       ,          pVVP!                  4       ,          pVV^,           ,          VP!                  4       ,          pVVV,          ,          V	) V,          V,          P!                  4       ,          V,          V\#        V	) V,          4      ,          V,          ,
          pV'       dn   RV	,          V,          V,          P%                  4       P'                  4       P)                  4       V! VV,          V4      ,          pVVV,          V,          ,           pV ! VVV,          3/ VB p W©,          \+        V
) V,          4      ,          p!\#        V
) V,          4      V!,
          p"VVV,          ,          V
) V,          V,          P!                  4       ,          V,          VV"V,          V!V ,          ,           ,          ,
          p#V'       d•   Wš,
          V,          V,          p$XV$P!                  4       ,          pVV$P-                  ^4      P%                  4       P'                  4       P)                  4       V! VV4      ,          ,           pV#VV,          V,          ,           p#V ! V#VV,          3/ VB p%\+        V) 4      V
,          p&\#        V) 4      V&,
          p'VV^,           ,          VV,          ,          V) V,          P!                  4       ,          V,          VV'V,          V&V%,          ,           ,          ,
          pV'       g   EKë  V
^,
          V,          V,          p$XV$P!                  4       ,          pVV$P-                  ^4      P%                  4       P'                  4       P)                  4       V! VVV^,           ,          4      ,          ,           pVVVV^,           ,          ,          V,          ,           pEKŸ  	  V# )z—SEEDS-3 - Stochastic Explicit Exponential Derivative-free Solvers (VP Data Prediction) stage 3.
arXiv: https://arxiv.org/abs/2305.14267 (NeurIPS 2023)
Nr`   rá   rª   ré   r)   r  rÊ   r   rÌ   rJ   rÍ   rK   r!  )rå   ra   rÐ   r}   rã   rë   rì   rê   r   r²   r®   r·   rÑ   r|   r   rù   r'   rÄ   r/   r­   r-   rÇ   rº  )(rÓ   r   r"   rÔ   rÕ   rË   rP   rÙ   ræ   Úr_1Úr_2r`   rÚ   rª   r»  r×  r-  rÌ   rK   rê  rë  r»   r  rì  Ú
lambda_s_2rî  Ú	sigma_s_2rï  Ú	alpha_s_2r3  ró   r¼  rô   Úa3_2Úa3_1rŠ  r½  r9  rS  rQ  s(   &&&&&&&&&&&                             r   Úsample_seeds_3rÍ  Æ  s˜  € ð
 "Ò)‘¨z€JØ�>‰>˜& $Ó'€DØ;HÒ;PÔ)¨!Õ7ÐVc€MØ�:‰:�q—w‘w˜q•z�lÓ#€Dà×&Ñ&×4Ñ4×EÑEÐFVÓW€NØœ °¸sÓCÕC€GØ˜‘7×*Ð*˜w¨™{€LÜÔ,¸^ÔL€HÜÔ-¸nÔM€IÜ'¨Ó?€Fä”C˜“K !•O¨W×5Ð5ˆÙ˜ 1�I¨Õ,Ñ;°
Ñ;ˆØÒÙ�c˜1˜c 1 g¨v°a­y¸+ÀvÈaÅyÐR\Ð^fÐgÔhà�!�a•%�=˜AÔØˆAÙá& v¨a¥yÓ1±9¸VÀAÈÅE½]Ó3K�(ˆØ�xÕˆØ�S˜1•W•ˆÜ—Z’Z ¨(°CÓ8ˆ
Ü—Z’Z ¨(°CÓ8ˆ
Ù'¨
Ó3±X¸jÓ5I�9ˆ	à 
§¡Ó 0Õ0ˆ	Ø 
§¡Ó 0Õ0ˆ	Ø˜˜Q�•- (§,¡,£.Õ0ˆð ˜& �)Õ#¨ t¨a¥x°#¥~×&:Ñ&:Ó&<Õ<¸qÕ@À9ÌzÐ[^ÐZ^ÐafÕZfÓOgÕCgÐjrÕCrÕrˆßØ˜c� A�¨Õ+×2Ñ2Ó4×8Ñ8Ó:×?Ñ?ÓAÁMÐRXÐYZÕR[Ð]fÓDgÕgˆIØ˜	 IÕ-°Õ7Õ7ˆCÙ˜3 	¨DÕ 0Ñ?°JÑ?ˆ
ð �yœ: s d¨U¥lÓ3Õ3ˆÜ˜3˜$ �,Ó'¨$Õ.ˆØ˜& �)Õ#¨ t¨a¥x°#¥~×&:Ñ&:Ó&<Õ<¸qÕ@À9ÐPTÐW_ÕP_ÐbfÐisÕbsÕPsÕCtÕtˆßØ!�i¨1�_¨sÕ2ˆNØ! N×$6Ñ$6Ó$8Õ8ˆIØ! N×$6Ñ$6°qÓ$9×$?Ñ$?Ó$A×$EÑ$EÓ$G×$LÑ$LÓ$NÑQ^Ð_hÐjsÓQtÕ$tÕtˆIØ˜	 IÕ-°Õ7Õ7ˆCÙ˜3 	¨DÕ 0Ñ?°JÑ?ˆ
ô ˜˜Ó #Õ%ˆÜ˜˜Ó "Õ$ˆØ�1�q•5�M˜F 1�IÕ%¨!¨¨c­¯©Ó(8Õ8¸1Õ<¸wÈ"ÈxÍ-ÐZ\Ð_iÕZiÕJiÕ?jÕjˆßŠ<Ø! A�g¨�]¨SÕ0ˆNØ! N×$6Ñ$6Ó$8Õ8ˆIØ! N×$6Ñ$6°qÓ$9×$?Ñ$?Ó$A×$EÑ$EÓ$G×$LÑ$LÓ$NÑQ^Ð_hÐjpÐqrÐuvÕqvÕjwÓQxÕ$xÕxˆIØ�I  q¨1¥u¥Õ-°Õ7Õ7‹Añ] 6ð^ €Hr   c                óT
  € \        V4      ^8:  d   V# Vf   / MTpVP                  RR4      pVf   \        WR7      MTpVP                  VP                  ^ ,          .4      pV P
                  P                  P                  R4      pV\        VRR4      ,          p\        W/4      p\        W/R7      pVf<   VP                  R4      pVP                  R	4      p\        P                  ! VVRR
7      p\        Wš4      pTpRpRpRp. pVR,          P                  4       ^ 8H  p\!        \        V4      ^,
          VR7       EFæ  pV ! VVV,          V,          3/ VB pVe!   V! RVRVRVV,          RVV,          RV/4       VP#                  V4       VV) R p\%        V	\        V4      4      pV^ 8X  g   VV^,           ,          ^ 8X  d   V'       g   ^ pM\%        V
\        V4      4      pV'       dG   \%        V\        V4      ^,
          V,
          4      p\%        V\        V4      ^,
          V,
          4      pV^ 8X  d   TpEMVVV,
          ^,           V^,            p\        P&                  ! VV,          VVV^,
          ,          VV,          VVRR7      p\(        P*                  ! VV) R ^R7      p \(        P,                  ! V V^.^ .3R7      p!VV,          VV^,
          ,          ,          V^,          ) V,          P/                  4       ,          V,          V!,           pV^ 8”  d   V^ 8”  d
   VV,           pV'       d   V ! WV,          V,          3/ VB pVVR&   VV^,           ,          ^ 8X  d   TpEK2  V! VV^,           ,          4      pVVV,
          ^,           V^,            p\        P&                  ! VV^,           ,          VVV,          VV^,           ,          VVRR7      p\(        P*                  ! VV) R ^R7      p \(        P,                  ! V V^.^ .3R7      p"VV^,           ,          VV,          ,
          pVV^,           ,          VV,          ,          V^,          ) V,          P/                  4       ,          V,          V",           pV^ 8”  g   EKS  V^ 8”  g   EK]  V! VV,          VV^,           ,          4      VV^,           ,          ,          RV^,          ,          V,          P1                  4       P3                  4       P5                  4       ,          V,          pVV,           pEKé  	  V# )zGStochastic Adams Solver with predictor-corrector method (NeurIPS 2023).Nr`   rá   rª   ré   r)   r  gš™™™™™É?gš™™™™™é?râ   r5   rÊ   r   rÌ   rJ   rÍ   rK   T)Úis_corrector_step)Údim)ÚdimsFr†   r!  )r|   rå   ra   rÐ   r}   rã   rë   rì   rê   r·   r®   rµ   r	   Úget_tau_interval_funcr;   rx   rÑ   r%  r:   Ú!compute_stochastic_adams_b_coeffsr   r�   Ú	tensordotr'   r/   r­   r-   )#rÓ   r   r"   rÔ   rÕ   rË   Útau_funcrÙ   ræ   Úpredictor_orderÚcorrector_orderÚuse_peceÚsimple_order_2r`   rÚ   rª   ÚlambdasÚstart_sigmaÚ	end_sigmaÚmax_used_orderÚx_predr»   Útau_tr   Ú	pred_listÚlower_order_to_endrÌ   rK   Úpredictor_order_usedÚcorrector_order_usedÚcurr_lambdasÚb_coeffsÚpred_matÚcorr_resÚpred_ress#   &&&&&&&&&&&&&                      r   Úsample_sa_solverré  	  s¢  € ô ˆ6ƒ{�aÔØˆØ!Ò)‘¨z€JØ�>‰>˜& $Ó'€DØ;HÒ;PÔ)¨!Õ7ÐVc€MØ�:‰:�q—w‘w˜q•z�lÓ#€Dà×&Ñ&×4Ñ4×EÑEÐFVÓW€NØœ °¸sÓCÕC€GÜ'¨Ó?€FÜ# FÔJ€GàÒà$×5Ñ5°cÓ:ˆØ"×3Ñ3°CÓ8ˆ	Ü×2Ò2°;À	ÈsÔSˆä˜Ó:€NØ€Fà€AØ€EØ€EØ€Ið   �Ÿ™Ó*¨aÑ/Ðä”C˜“K !•O¨W×5Ð5ˆá˜ ¨¥¨TÕ!1Ñ@°ZÑ@ˆØÒÙ�c˜6 3¨¨7°F¸1µI¸{ÈFÐSTÍIÐWaÐckÐlÔmØ×Ñ˜Ô"Ø˜~˜oÐ.Ð/ˆ	ä" ?´C¸	³NÓCÐØ�Œ6�f˜Q �U•m qÔ(·Ø#$Ñ ä#& ¼¸I»Ó#GÐ çÜ#&Ð';¼SÀ»[È1½_ÈqÕ=PÓ#QÐ Ü#&Ð';¼SÀ»[È1½_ÈqÕ=PÓ#QÐ ð   1Ô$àŠAà" 1Ð';Õ#;¸aÕ#?ÀÀAÅÐFˆLÜ ×BÒBØ�q•	ØØ˜˜A�•Ø˜•
ØØØ"&ôˆHô —{’{ 9Ð.BÐ-BÐ-CÐ#DÈ!ÔLˆHÜ—’ x°À!ÀÀqÀcÀ
ÔKˆHØ�q•	˜F 1 q¥5�MÕ)¨u¸­z¨]¸QÕ->×,CÑ,CÓ,EÕEÈÕIÈHÕTˆAà�qŒy˜W qœ[à˜•I�çá  ¨1¥I°Õ$4ÑC¸
ÑC�Ø (�	˜"‘ð �!�a•%�=˜AÔà‹Fá˜V A¨¥E�]Ó+ˆEØ" 1Ð';Õ#;¸aÕ#?ÀÀAÅÐFˆLÜ ×BÒBØ�q˜1•u•ØØ˜•
Ø˜˜A�•ØØØ"'ôˆHô —{’{ 9Ð.BÐ-BÐ-CÐ#DÈ!ÔLˆHÜ—’ x°À!ÀÀqÀcÀ
ÔKˆHØ˜˜A�• ¨¥Õ+ˆAØ˜A �E•] V¨A¥YÕ.°E¸QµJ°-À!Õ2C×1HÑ1HÓ1JÕJÈQÕNÐQYÕYˆFà�q�y˜W qŸ[Ù% f¨Q¥i°¸¸A½µÓ?À&ÈÈQÍÅ-ÕOÐSUÐX]ÐabÕXbÕSbÐefÕSf×RmÑRmÓRo×RsÑRsÓRu×RzÑRzÓR|Õ|ð  @Gõ  G�Ø %�“ñK 6ðL €Mr   c                ó(   € \        WW#WEWgW‰V
RVR7      # )u`   Stochastic Adams Solver with PECE (Predictâ€“Evaluateâ€“Correctâ€“Evaluate) mode (NeurIPS 2023).T)
rÔ   rÕ   rË   rÕ  rÙ   ræ   rÖ  r×  rØ  rÙ  )ré  )rÓ   r   r"   rÔ   rÕ   rË   rÕ  rÙ   ræ   rÖ  r×  rÙ  s   &&&&&&&&&&&&r   Úsample_sa_solver_pecerë  r  s8   € ô ˜E fÈhÐrzð  \ið  \kð  vzð  KYô  Zð  Zr   c                óf  € Vf   / MTpVP                  R/ 4      pVP                  R/ 4      pVP                  ^8w  d'   \        RVP                   RVP                   R24      hV P                  P                  p	V	P
                  p
\        V
R4      '       d   \        V
R4      '       g   \        R	4      hVP                  R
^ 4      pVP                  w  rÍrïpV) ^,          ) V) ^,          ) ,          pV) V,          ) pVP                  pV	P                  4       pV
P                  WÎV,          VV4      pV
P                  VVV4      p\        P                  ! V4      pVP                  VP                  ^ ,          .4      p^ pVP                  R/ 4      P                  RR4      pVe†   V	P                  V4      P!                  VVR7      pVP                  ^,          pVVRRRV13&   R^ RVRV/pVVR&   VP#                  ^.4      pV ! VVV,          3/ VB pTpVV,
          pV) V,          ) p\%        V4      ^,
          p VV ,          p!^ p" \'        VVR7       EF¬  p#\)        WnV,
          4      p$TVV$,           p&p%VRRV%V&13,          p'RVRVRV/pVVR&   \+        V 4       EF  p(V ! V'VV(,          V,          3/ VB p)Ve1   V"V ,          V!,          p*V! RV'RV*RVV(,          RVV(,          RV)/4       VV(^,           ,          ^ 8X  d   T)p'M”VV(^,           ,          p+\        P,                  ! VV#R,          ,           V(,           4       \        P.                  ! V)4      p,RV+,
          V),          V+V,,          ,           p'V F  p-V-R;;,          V$V,          ,          uu&   K!  	  V"^,          p"EK  	  V'VRRV%V&13&   V F  p-V-R;;,          V$V,          ,          uu&   K!  	  VP#                  ^.4      pV ! V'VV,          3/ VB pVV$,          pEK¯  	  VP1                  RR4       V#   TP1                  RR4       i ; i)a‰  
Autoregressive video sampler: block-by-block denoising with KV cache
and flow-match re-noising for Causal Forcing / Self-Forcing models.

Requires a Causal-WAN compatible model (diffusion_model must expose
init_kv_caches / init_crossattn_caches) and 5-D latents [B,C,T,H,W].

All AR-loop parameters are passed via the SamplerARVideo node, not read
from the checkpoint or transformer_options.
Nr  Útransformer_optionsz=ar_video sampler requires 5-D video latents [B,C,T,H,W], got z-D tensor with shape zU. This sampler is only compatible with autoregressive video models (e.g. Causal-WAN).Úinit_kv_cachesÚinit_crossattn_cachesuÙ   ar_video sampler requires a Causal-WAN compatible model whose diffusion_model exposes init_kv_caches() and init_crossattn_caches(). The loaded checkpoint does not support this interface â€” choose a different sampler.r`   Ú	ar_configÚinitial_latentr‹   :NNNÚstart_frameÚ	kv_cachesÚcrossattn_cachesÚar_staterÊ   r   rÌ   rJ   rÍ   rK   iè  r)   Úend)rå   rI   r~   r}   rã   Údiffusion_modelÚhasattrÚ	TypeErrorr   Ú	get_dtyperî  rï  r   ru   rÐ   Úprocess_latent_inr   r   r|   rÑ   r:   r  r_   rÒ   rr   ).rÓ   r   r"   rÔ   rÕ   rË   Únum_frame_per_blockr  rí  rã   Úcausal_modelr`   ÚbsÚcÚlat_tÚlat_hÚlat_wÚframe_seq_lenÚ
num_blocksr   Úmodel_dtyperó  rô  ÚoutputrÚ   Úcurrent_start_framerñ  Ún_initrõ  Ú
zero_sigmaÚ_Ú	remainingÚnum_sigma_stepsÚtotal_real_stepsÚ
step_countÚ	block_idxÚbfÚfsÚfeÚnoisy_inputrÌ   rK   Úscaled_ir\   Úfresh_noiseÚcaches.   &&&&&&&                                       r   Úsample_ar_videor  x  ss  € ð "Ò)‘¨z€JØ—N‘N ?°BÓ7€MØ'×+Ñ+Ð,AÀ2ÓFÐà‡v�v�„{ÜØKÈAÏFÉFÈ8ÐShÐij×ipÑipÐhqð rbð bó
ð 	
ð
 ×#Ñ#×/Ñ/€KØ×.Ñ.€Lä�LÐ"2×3Ò3¼ÀÐNe×8fÒ8fÜðNó
ð 	
ð �>‰>˜& !Ó$€Dà!"§¡Ñ€Bˆ5˜Ø�f •k�N¨ v°¥{ ^Õ3€MØ�6Ð0Õ0Ð1€JØ�X‰X€FØ×'Ñ'Ó)€Kà×+Ñ+¨B¸Õ0EÀvÈ{Ó[€IØ#×9Ñ9¸"¸fÀkÓRÐä×Ò˜aÓ €FØ�:‰:�q—w‘w˜q•z�lÓ#€DØÐð )×,Ñ,¨[¸"Ó=×AÑAÐBRÐTXÓY€NØÒ!Ø$×6Ñ6°~ÓF×IÑIÐQWÐ_jÐIÓkˆØ×%Ñ% aÕ(ˆØ .ˆˆq�!�W�f�Wˆ}Ñà! 1 k°9Ð>PÐRbÐcˆØ*2Ð˜JÑ'Ø×%Ñ% q cÓ*ˆ
Ù�. *¨tÕ"3ÑB°zÑBˆà$ÐØ˜F•Nˆ	Ø!�zÐ%8Õ8Ð9ˆ
ä˜&“k A•o€OØ! OÕ3ÐØ€Jð+2Ü 
°G×<Ð<ˆIÜÐ(Ð2EÕ*EÓFˆBØ(Ð*=ÀÕ*B�ˆBØ˜A˜q " R %˜K�.ˆKð Ð2Ø˜YØ"Ð$4ðˆHð
 /7Ð 
Ñ+ä˜?×+�Ù  ¨f°Q­i¸$Õ.>ÑMÀ*ÑM�àÒ'Ø)¨OÕ;Ð?OÕO�HÙ˜c ;°°X¸wÈÈqÍ	Ø)¨6°!­9°jÀ(ðLô Mð ˜!˜a�%•= AÔ%Ø"*‘Kà!'¨¨A­¥�JÜ×%Ò% d¨Y¸Õ-=Õ&=ÀÕ&AÔBÜ"'×"2Ò"2°8Ó"<�KØ#&¨Õ#3°xÕ"?À*È{ÕBZÕ"Z�Kã!*˜Ø˜eŸ¨¨]Õ(:Õ:�ñ "+ð ˜a•“
ñ' ,ð* #.ˆF�1�a˜˜B˜�;Ñã"�Ø�e—  ]Õ 2Õ2•ñ #à×)Ñ)¨1¨#Ó.ˆJÙ�k :°Õ#4ÑC¸
ÑCˆAà 2Õ%ÓñQ =ðT 	×Ñ 
¨DÔ1à€Møð 	×Ñ 
¨DÕ1ús   É
F>P ÐP0)g      @rU   r¢   )r)   rU   )gfffffæ3@rE  gü©ñÒMbP?rU   )r5   r?   rU   r  r’   )r  )NNNr)   r)   N)NNNr?   Nr   r5   r¶  )NNNé   )NNNr5   r)   N)NNNr¢  r¸  r¹  r¸  r5   r)   r5   re  r5   r)   NF)NNNr)   r)   Nr?   )NNNr)   r)   Nrÿ  )NNNr)   r)   Nrþ  )NNNNN)NNNN)NNNNr)   Nr5   )NNNr¢  Útab)NNNr)   Nr)   F)NNNr)   N)NNNr&  F)NNNr&  )NNNr)   NNr¢  )NNNr)   r)   Nr?   r¹  )NNNr  )NNNr)   r)   Nr  )NNNr)   r)   Nr£  r·  )
NNFNr)   Nr¢  r  FF)	NNFNr)   Nr¢  r  F)NNNr   )]r%   Ú	functoolsr   Úscipyr   r   r   rh   Ú	tqdm.autor   Ú r   r   r	   Úcomfy.model_patcherr©   Úcomfy.model_samplingÚcomfy.memory_managementÚcomfy.utilsr
   rÑ   r   r#   r(   r+   r4   rF   rL   rS   ra   rc   rž   r®   r²   r·   rÄ   rÇ   Úno_gradrŒ   rß   rç   rä   r÷   rý   r   rÿ   r  rC  rG  rM  rO  ÚModulerg  rÈ  rÍ  rÚ  rÖ  rô  rü  r  r  r  r  r  r  r  r$  r(  r*  r5  r<  rF  rT  r]  re  rg  rn  rv  r‹  r�  r’  r•  r—  rž  r   r·  r¾  rÂ  rÄ  rÍ  ré  rë  r  rq   r   r   Ú<module>r$     só  ðÛ Ý å Û Ý Û Ý å Ý Ý Û Û ã Ý .ò,ô*ôôôôò=ô
 ô
A÷!+ñ !+÷H:ñ :ò2ò$ôõõ
$ð
 ‡‚ƒØ.2¸TÈ4ÐY[ÐdfÑotÐuzÓo{ð  FHó ó ðð2 ‡‚ƒóó ðð. ‡‚ƒóó ðð8 ‡‚ƒØ-1¸DÈ$ÐXZÐceÑnsÐtyÓnzð  EGó ó ððD ‡‚ƒØ.2¸TÈ4ÐY[ÐdfÑotÐuzÓo{ð  FHó  ó ð ðF ‡‚ƒóó ðð> ‡‚ƒó ó ð òD
>ô=ô@oð ‡‚ƒóó ð÷.ñ ô:Q�—	‘	ô Qðh ‡‚ƒó[ó ð[ð ‡‚ƒóó ðð ‡‚ƒó"ó ð"ðJ ‡‚ƒó0ó ð0ðf ‡‚ƒó6ó ð6ðr ‡‚ƒóó ðð2 ‡‚ƒó3ó ð3ðl ‡‚ƒó|ó ð|ð ‡‚ƒó;ó ð;ð| ‡‚ƒócó ðcð ‡‚ƒóAó ðAð ‡‚ƒó|ó ð|ð ‡‚ƒóeó ðeòôð  ‡‚ƒóró ðrð ‡‚ƒóó ððB ‡‚ƒØ04¸tÈTÐ[]ÐfhÑqvÐw|Óq}ð  HJó 5ó ð5ôt&ôV=ðD ‡‚ƒó-ó ð-ð` ‡‚ƒó)ó ð)ðX ‡‚ƒó`ó ð`ð
 ‡‚ƒó)ó ð)ðV ‡‚ƒóó ðð@ ‡‚ƒó>ó ð>ð@ ‡‚ƒójó ðjð ‡‚ƒóió ðið ‡‚ƒókó ðkð ‡‚ƒójó ðjð ‡‚ƒó(ó ð(ðV ‡‚ƒóSó ðSð ‡‚ƒó?ó ð?ðD ‡‚ƒó<ó ð<ð| ‡‚ƒóqó ðqð
 ‡‚ƒó~ó ð~ð
 ‡‚ƒó?ó ð?ðD ‡‚ƒóeó ðeðP ‡‚ƒóZó ðZð
 ‡‚ƒópó òpr   