o
    !ôjÑ” ã                	   @   sˆ  d Z ddlZddlZddlZddlZddlZddlmZmZm	Z	m
Z
mZmZmZmZ ddlmZ ddlZddlZddlmZmZmZmZmZmZmZmZmZ g d¢Z	d>d	ed
ededefdd„Ze d¡edee fdd„ƒƒZ e d¡dee fdd„ƒZ!e d¡edeeef fdd„ƒƒZ"defdd„Z#d?dee
 dee
gef de	e
 fdd„Z$dedee
 de
fdd„Z%eedƒZ&eed ƒZ'eed!ƒZ(e d¡deee
e	e f eeef f fd"d#„ƒZ)edee
e	e f fd$d%„ƒZ*ed&d'„ ƒZ+e d¡dee fd(d)„ƒZ,ed	ede-fd*d+„ƒZ.d,d-„ Z/G d.d/„ d/ƒZ0d0d1„ Z1d2d3„ Z2d4d5„ Z3d6d7„ Z4ej5d8d9„ ƒZ6G d:d;„ d;e0ƒZ7ej5d<d=„ ƒZ8dS )@aE  
Python implementation of ``__torch_function__``

While most of the torch API and handling for ``__torch_function__`` happens
at the C++ level, some of the torch API is written in Python so we need
python-level handling for ``__torch_function__`` overrides as well. The main
developer-facing functionality in this file are handle_torch_function and
has_torch_function. See torch/functional.py and test/test_overrides.py
for usage examples.

Note
----
heavily inspired by NumPy's ``__array_function__`` (see:
https://github.com/pytorch/pytorch/issues/24015 and
https://www.numpy.org/neps/nep-0018-array-function-protocol.html
)

If changing this file in a way that can affect ``__torch_function__`` overhead,
please report the benchmarks in ``benchmarks/overrides_benchmark``. See the
instructions in the ``README.md`` in that directory.
é    N)ÚDictÚSetÚListÚAnyÚCallableÚIterableÚTypeÚTuple©Úwraps)	Ú_has_torch_functionÚ_has_torch_function_unaryÚ_has_torch_function_variadicÚ_add_docstrÚ_push_on_torch_function_stackÚ_pop_torch_function_stackÚ_get_function_stack_atÚ_len_torch_function_stackÚ_is_torch_function_mode_enabled)
Úget_ignored_functionsÚget_overridable_functionsÚget_testing_overridesÚhandle_torch_functionÚhas_torch_functionÚresolve_nameÚis_tensor_likeÚis_tensor_method_or_propertyÚwrap_torch_functionÚenable_reentrant_dispatchú.*is deprecated, please use.*ÚtorchÚfuncÚregexÚmoduleÚreturnc                    s   t ˆ ƒ‡ ‡‡fdd„ƒ}|S )a  
    Decorator that temporarily disables ``UserWarning``s for the given ``module`` if the warning message matches the
    given ``regex`` pattern.

    Arguments
    ---------
    func : function
        Function to disable the warnings for.
    regex : str
        A regex pattern compilable by ``re.compile``. This is used to match the ``UserWarning`` message.
    module : str
        The python module to which the filtering should be restricted.

    Returns
    -------
    function
        The wrapped function.
    c                     sL   t  ¡ � t jdtˆˆd� ˆ | i |¤ŽW  d   ƒ S 1 sw   Y  d S )NÚignore)ÚcategoryÚmessager#   )ÚwarningsÚcatch_warningsÚfilterwarningsÚUserWarning)ÚargsÚkwargs©r!   r#   r"   © úb/var/www/html/academy/tools/voices/clone/cosy-venv/lib/python3.10/site-packages/torch/overrides.pyÚwrapperK   s   
$þz'_disable_user_warnings.<locals>.wrapperr
   )r!   r"   r#   r1   r/   r.   r0   Ú_disable_user_warnings6   s   r2   c                  C   s`  t j} h t j’t j’t j’t j’t j’t j’t j’t j	’t j
’t j’t j’t j’t j’t j’t j’t j’t j’t j’t j’t j’t j’t j’t j’t j’t j’t j’t j’t j’t j’t j’t j ’t j!’t j"’t j#’t j$’t j%’t j&’t j'’t j(’t j)’t j*’t j+’t j,’t j-’t j.’t j/’t j0’t j1’t j2’t j3’t j4’t j5’t j6’t j7’t j8’t j9’t j:’t j;’t j<’t j=’t j>’t j?’t j@’t jA’t jB’t jC’t jD’t jE’t jF’t jG’t jH’t jI’t jJ’t jK’t jL’t jM’t jN’t jOjP’t jOjO’t jOj’t jOjQ’t jOj’t jR’t jSjT’t jSjU’t jV’t jW’t jX’t jY’t jZ’t j[’t j\’t j]’t j^’t j_’t j`’t ja’t jb’t jc’t jd’t je’t jf’t jg’t jh’t ji’t jj’t jk’t jl’t jm’t jn’t jo’t jp’t jq’t jr’t js’t jt’t ju’t jv’t jw’t jx’t jy’t jzj{’t j|j}j~’t j|j}j’t j|j}j€’t j|j}j�’t j|j}j‚’t j|j}jƒ’t j|j}j„’t j|j}j…’t j|j}j†’t j|j}j‡’t j|j}jˆ’t j|j}j‰’t j|j}jŠ’t j|j‹jŒ’t j|j‹j�’t j|j‹jd’t j|j‹jŽ’t j|j‹jR’t j|j‹j�’t j|j‹j�’t j|j‹j‘’t j|j‹j’’t j|j‹j“’t j|j‹j”’t j|j‹j•’t j–j—’t‚’t…’t j˜’t j™’t jš’t j›’t jœ’t j�’t jž’t jŸ’t j ’t j¡’t j¢’t j£’t j¤’t j¥’t j¦’t j§’t j¨’t j©’t jª’t j«’t j¬’t j|j}j­’t j®’t j¯’t j°’t j±’t j²’t j³’t j´’t jµ’t j¶’t j·’t j¸’t j¹’t jº’t j»’t j¼’t j½’t j¾’t j¿’t jÀ’t jÁ’| jÂ’| jÃ’| jÄ’| jÅ’| jÆ’| jÇ’| jÈ’| jÉ’| jÊ’| jË’| jÌ’| jÍ’| jÎ’| jÏ’| jÐ’| jÑ’| jÒ’| jÓ’| jÔ’| jÕ’| jÖ’| j×’| jØ’| jÙ’| jÚ’| jÛ’| jÜ’| jÝ’| jÞ’| jß’| jà’| já’| jâ’| jã’| jä’| jå’| jæ’| jç’| jè’| jé’| jê’| jë’| jì’| jí’| jî’| jï’| jð’| jñjò’| jójò’| jô’| jõ’| jö’| j÷’| jø’| jù’| jú’| jû’| j—’S )a%  
    Return public functions that cannot be overridden by ``__torch_function__``.

    Returns
    -------
    Set[Callable]
        A tuple of functions that are publicly available in the torch API but cannot
        be overridden with ``__torch_function__``. Mostly this is because none of the
        arguments of these functions are tensors or tensor-likes.

    Examples
    --------
    >>> torch.Tensor.as_subclass in torch.overrides.get_ignored_functions()
    True
    >>> torch.add in torch.overrides.get_ignored_functions()
    False
    )ür    ÚTensorÚtypenameÚ	is_tensorÚ
is_storageÚset_default_tensor_typeÚset_default_deviceÚget_default_deviceÚset_rng_stateÚget_rng_stateÚmanual_seedÚinitial_seedÚseedÚsaveÚloadÚset_printoptionsÚforkÚget_default_dtypeÚget_num_interop_threadsÚget_num_threadsÚinit_num_threadsÚimport_ir_moduleÚimport_ir_module_from_bufferÚis_anomaly_enabledÚis_anomaly_check_nan_enabledÚis_grad_enabledÚmerge_type_from_type_commentÚparse_irÚparse_schemaÚparse_type_commentÚset_anomaly_enabledÚset_flush_denormalÚset_num_interop_threadsÚset_num_threadsÚwaitZ	as_tensorÚ
from_numpyÚ
get_deviceÚtensorÚdefault_generatorÚhas_cudaÚ	has_cudnnÚ
has_lapackÚdeviceÚdtypeÚfinfoÚhas_mklÚhas_mpsÚ
has_mkldnnÚ
has_openmpÚiinfoÚmemory_formatÚqschemeÚset_grad_enabledÚno_gradÚenable_gradÚinference_modeÚis_inference_mode_enabledÚlayoutZalign_tensorsÚarangeÚ
as_stridedZbartlett_windowZblackman_windowÚbroadcast_shapesÚcan_castÚcompileZcudnn_affine_grid_generatorZcudnn_batch_normZcudnn_convolutionZcudnn_convolution_transposeZcudnn_convolution_reluZcudnn_convolution_add_reluZcudnn_grid_samplerZcudnn_is_acceptableÚemptyZempty_permutedÚempty_stridedZempty_quantizedÚexportZdynamic_dimZregister_dataclassÚeyeÚfftÚfftfreqÚrfftfreqZ	from_fileÚfullÚfillZhamming_windowZhann_windowZkaiser_windowÚlinspaceÚlogspaceZmkldnn_adaptive_avg_pool2dZmkldnn_convolutionZmkldnn_max_pool2dZmkldnn_max_pool3dZmkldnn_linear_backward_weightsZmkldnn_rnn_layerÚnormalÚonesÚpromote_typesÚrandÚrandnÚrandintZrandpermÚrangeÚresult_typeZscalar_tensorÚsparse_coo_tensorÚsparse_compressed_tensorZsparse_csr_tensorZsparse_csc_tensorZsparse_bsr_tensorZsparse_bsc_tensorÚsym_constrain_rangeÚsym_constrain_range_for_sizeÚtril_indicesÚtriu_indicesÚvanderÚzerosZ_jit_internalZboolean_dispatchÚnnÚ
functionalZassert_int_or_pairZupsampleZupsample_bilinearZupsample_nearestr   Úhas_torch_function_unaryÚhas_torch_function_variadicr   ÚsigmoidÚhardsigmoidÚtanhZ_canonical_maskZ_none_or_dtypeÚinitZcalculate_gainÚuniformÚconstantZdiracZxavier_uniformZxavier_normalZkaiming_uniformZkaiming_normalZ
orthogonalÚsparseÚnestedÚto_padded_tensorÚset_autocast_enabledÚis_autocast_enabledÚclear_autocast_cacheÚset_autocast_cpu_enabledÚis_autocast_cpu_enabledÚset_autocast_xla_enabledÚis_autocast_xla_enabledÚset_autocast_ipu_enabledÚis_autocast_ipu_enabledÚset_autocast_cpu_dtypeÚget_autocast_cpu_dtypeÚset_autocast_ipu_dtypeÚget_autocast_ipu_dtypeÚget_autocast_gpu_dtypeÚset_autocast_gpu_dtypeÚget_autocast_xla_dtypeÚset_autocast_xla_dtypeÚautocast_increment_nestingÚautocast_decrement_nestingÚis_autocast_cache_enabledÚset_autocast_cache_enabledÚ	hardswishZis_vulkan_availableÚ$are_deterministic_algorithms_enabledÚuse_deterministic_algorithmsÚ-is_deterministic_algorithms_warn_only_enabledÚset_deterministic_debug_modeÚget_deterministic_debug_modeÚset_float32_matmul_precisionÚget_float32_matmul_precisionÚunify_type_listÚis_warn_always_enabledÚset_warn_alwaysÚvitals_enabledÚ	set_vitalÚread_vitalsÚvmapÚcondÚ
frombufferÚasarrayZ_functional_sym_constrain_rangeZ_make_dep_tokenÚ__delitem__Ú__dir__Ú__getattribute__Ú__init__Ú__iter__Ú__init_subclass__Ú__delattr__Ú__setattr__Ú__torch_function__Ú__torch_dispatch__Ú__new__Ú	__class__Ú__subclasshook__Ú__hash__Úas_subclassÚeigÚlstsqÚ	reinforceÚnewÚ
new_tensorÚ	new_emptyÚnew_empty_stridedÚ	new_zerosÚnew_onesÚnew_fullZ_make_subclassÚsolveÚsymeigÚstrideÚ	unflattenÚto_sparse_cooÚto_sparse_csrÚto_sparse_cscÚto_sparse_bsrÚto_sparse_bscÚ
_to_sparseÚ_to_sparse_csrÚ_to_sparse_cscÚ_to_sparse_bsrÚ_to_sparse_bscÚ_typed_storageÚ_reduce_ex_internalÚ_fix_weakrefÚ
_view_funcÚ_view_func_unsafeÚ_rev_view_func_unsafeÚ_make_wrapper_subclassÚ_python_dispatchÚ__get__Ú_has_symbolic_sizes_stridesÚ_conjÚ_conj_physicalÚ_lazy_cloneÚ	_neg_viewÚ_is_zerotensorÚ_is_all_trueÚ_is_any_trueÚ_addmm_activation©r3   r/   r/   r0   r   S   sØ  ÿþýüûúùø	÷
öõôóòñðïîíìëêéèçæåäãâá à!ß"Þ#Ý$Ü%Û&Ú'Ù(Ø)×*Ö+Õ,Ô-Ó.Ò/Ñ0Ð1Ï2Î3Í4Ì5Ë6Ê7É8È9Ç:Æ;Å<Ä=Ã>Â?Á@ÀA¿B¾C½D¼E»FºG¹H¸I·J¶KµL´M³N²O±P°Q¯R®S­T¬U«VªW©X¨Y§Z¦[¥\¤]£^¢_¡` aŸbžc�dœe›fšg™h˜i—j–k•l”m“n’o‘p�q�rŽs�tŒu‹vŠw‰xˆy‡z†{…|„}ƒ~‚�  �ÿ  �þ  �ý  �ü  �û  �ú  �ù  �ø 
 �ö  �ô  �ó  �ò  �ñ  �ð  �ï  �î  �í  �ì  �ë  �ê  �é  �è  �ç  �æ  �å  �ä  �ã  �â  �á   �à ! �ß " �Þ # �Ý $ �Ü % �Û & �Ú ' �Ù ( �Ø ) �× * �Ö + �Õ , �Ô - �Ó . �Ò / �Ñ 0 �Ð 1 �Ï 2 �Î 3 �Í 4 �Ì 5 �Ë 6 �Ê 7 �É 8 �È 9 �Ç : �Æ ; �Å < �Ä = �Ã > �Â ? �Á @ �À A �¿ B �¾ C �½ D �¼ E �» F �º G �¹ H �¸ I �· J �¶ K �µ L �´ M �³ N �² O �± P �° Q �¯ R �® S �­ T �¬ U �« V �ª W �© X �¨ Y �§ Z �¦ [ �¥ \ �¤ ] �£ ^ �¢ _ �¡ ` �  a �Ÿ b �ž c �� d �œ e �› f �š g �™ h �˜ i �— j �– k �• l �” m �“ n �’ o �‘ p �� q �� r �Ž s �� t �Œ u �‹ v �Š w �‰ x �ˆ y �‡ z �† { �… | �„ } �ƒr   c                  C   s   t j} | jj| jj| jjhS )a  
    Return public functions that do not wrap in a subclass when invoked by
    the default ``Tensor.__torch_function__`` that preserves subclasses.  Typically,
    these functions represent field accesses (i.e., retrieving a Tensor that
    is stored somewhere on the Tensor) as opposed to computation.  Users of
    these functions expect object identity to be preserved over multiple accesses
    (e.g., ``a.grad is a.grad``) which cannot be upheld if we're wrapping on
    the fly every time (furthermore, the tensor stored here might already be
    the subclass, in which case wrapping really ought not to happen).

    Not ALL property accessors have this property; for example ``Tensor.T`` actually
    just creates a new transposed tensor on the fly, and so we SHOULD interpose on
    these calls (you need to check the implementation of the function to see if
    this is the case or not).  Additionally, if a property accessor doesn't return a Tensor,
    it doesn't have to be on this list (though it is harmless if it is).
    )r    r3   Ú_baserï   ÚgradÚ_gradrù   r/   r/   r0   Úget_default_nowrap_functionsh  s
   ýrý   c            
      C   sTH  t j} i t j�dûdd„“t j�dûdd„“t jdd„ “t jdd„ “t j�dûdd„“t jdd„ “t j�dûd	d„“t j	�dûd
d„“t j
�dûdd„“t j�dûdd„“t j�düdd„“t j�dýdd„“t j�dýdd„“t j�düdd„“t j�düdd„“t j�düdd„“t jdd„ “i t j�dûdd„“t j�dþdd„“t j�dÿdd„“t j�dûdd„“t j�dûdd„“t j�d dd„“t j�dûdd„“t j�d dd„“t jd d„ “t jd!d„ “t j�dûd"d„“t j�dûd#d„“t jd$d„ “t j �dûd%d„“t j!�dûd&d„“t j"�dûd'd„“t j#�dûd(d„“¥i t j$�dûd)d„“t j%�dûd*d„“t j&�dûd+d„“t j'�dûd,d„“t j(�dûd-d„“t j)d.d„ “t j*d/d„ “t j+d0d„ “t j,�dd3d„“t j-�düd4d„“t j.d5d„ “t j/d6d„ “t j0d7d„ “t j1d8d„ “t j2d9d„ “t j3d:d„ “t j4d;d„ “¥i t j5d<d„ “t j6�dd=d„“t j7d>d„ “t j8	�dd@d„“t j9�ddAd„“t j:�dûdBd„“t j;�dûdCd„“t j<�dûdDd„“t j=�dûdEd„“t j>�dûdFd„“t j?�dûdGd„“t j@�dûdHd„“t jAdId„ “t jB�dûdJd„“t jCdKd„ “t jDdLd„ “t jE�ddMd„“¥i t jFdNd„ “t jG�ddOd„“t jH�ddPd„“t jI�ddQd„“t jJ�ddTd„“t jK�dûdUd„“t jL�ddWd„“t jMddXœdYd„“t jNdZd„ “t jO�d	d[d„“t jPjO�dûd\d„“t jPjQ�d	d]d„“t jR�d	d^d„“t jS�d	d_d„“t jTd`d„ “t jU�d1dad„“t jV�d
dbd„“¥i t jW�d
dcd„“t jX�dûddd„“t jY�dûded„“t jZ�dûdfd„“t j[�ddgd„“t j\dhd„ “t j]�ddjd„“t j^dkd„ “t j_�dûdld„“t j`dmd„ “t jPja�dûdnd„“t jb�dûdod„“t jc�dûdpd„“t jd�dûdqd„“t je�dûdrd„“t jf�d1dsd„“t jg�ddtd„“¥i t jh�ddud„“t ji�ddvd„“t jjdwd„ “t jk�d1dxd„“t jl�ddyd„“t jm�ddzd„“t jn�dd{d„“t jod|d„ “t jp�dûd}d„“t jq�dd~d„“t jr�dûdd„“t js�dd€d„“t jtd�d„ “t ju�dd‚d„“t jPju�dd„d„“t jv	�dd…d„“t jw�dûd†d„“¥i t jx�dûd‡d„“t jy�ddˆd„“t jz�dd‰d„“t j{�ddŠd„“t j|�dûd‹d„“t j}�dûdŒd„“t j~d�d„ “t jdŽd„ “t jPjd�d„ “t j€d�d„ “t j��dd‘d„“t j‚�dd’d„“t jƒ�d1d“d„“t j„�dd”d„“t j…�dd•d„“t jPj…�dd—d„“t j†�dd˜d„“¥i t j‡�dûd™d„“t jˆ�dûdšd„“t j‰�dd›d„“t jŠ�ddœd„“t j‹�dd�d„“t jŒ�dûdžd„“t j��dÿdŸd„“t jŽd d„ “t j�d¡d„ “t j�d¢d„ “t j‘�dûd£d„“t jPj’�dûd¤d„“t jPj“�dûd¥d„“t jPj”�dd§d„“t jPj•�dd¨d„“t j–d©d„ “t j—	�ddªd„“¥i t j˜	�dd«d„“t j™�dd¬d„“t jš�dûd­d„“t j›d®d„ “t jœ�dûd¯d„“t j��dûd°d„“t jž�dûd±d„“t jŸ�dûd²d„“t j �dûd³d„“t j¡�dûd´d„“t j¢dµd„ “t j£d¶d„ “t j¤	�dd·d„“t j¥d¸d„ “t j¦d¹d„ “t j§dºd„ “t j¨d»d„ “¥i t j©d¼d„ “t jªd½d„ “t j«d¾d„ “t j¬d¿d„ “t j­dÀd„ “t j®j¯�ddÁd„“t j®j°�ddÂd„“t j®j±�ddÃd„“t j®j²�ddÄd„“t j®j³�ddÅd„“t j®j´�ddÇd„“t j®jµ�ddÈd„“t j®j¶�ddÉd„“t j®j·�ddÊd„“t j®j¸�d
dËd„“t j®j¹�d
dÌd„“t j®jº�d
dÍd„“¥i t j®j»�d
dÎd„“t j®j¼�ddÏd„“t j®j½�ddÐd„“t j®j¾�ddÑd„“t j®j¿�ddÒd„“t j®jÀ�dûdÓd„“t j®jÁ�dûdÔd„“t j®j®�ddÕd„“t jÂ�dûdÖd„“t jÃ�dd×d„“t jÄdØd„ “t jÅdÙd„ “t jÆdÚd„ “t jÇ�d dÛd„“t jÈ�dûdÜd„“t jÉdÝd„ “t jÊ�dûdÞd„“¥i t jË�dûdßd„“t jÌ�dûdàd„“t jÍ�dûdád„“t jÎddt jÏddfdâd„“t jÐdãd„ “t jÑ�d däd„“t jÒ�d!dåd„“t jÓ�dûdæd„“t jÔ�dûdçd„“t jÕ�dûdèd„“t jÖ�dûdéd„“t j×�dûdêd„“t jØ�dûdëd„“t jÙ�dûdìd„“t jÚ�dûdíd„“t jÛ�d"dîd„“t jÜdïd„ “¥i t jÝdðd„ “t jÞdñd„ “t jß�d#dòd„“t jàdód„ “t já�ddôd„“t jâ�dûdõd„“t jã�dûdöd„“t jä�d$død„“t jå�dûdùd„“t jæ�d%dúd„“t jç�d&düd„“t jè�d'dýd„“t jé�d(dþd„“t jPjêdÿd„ “t jë�dû�d d„“t jì�dd„ “t jí�dû�dd„“¥i t jî�dû�dd„“t jï�dû�dd„“t jð�dû�dd„“t jñ�dû�dd„“t jò�dd„ “t jó�dd„ “t jô�dÿ�d	d„“t jõ�dû�d
d„“t jö�dd„ “t j÷�d)�dd„“t jø�dd„ “t jù�d�dd„“t jú�dd„ “t jû�dd„ “t jü�dû�dd„“t jý�dû�dd„“t jþ�dd„ “¥i t jÿ�dd„ “t �j �dû�dd„“t jP�j�dû�dd„“t jP�j�d	�dd„“t �j�dd„ “t �j�dd„ “t �j�dd„ “t �j�dd„ “t �j�dd„ “t �j�dd„ “t �j	�dd„ “t �j
�dd„ “t �j�d d„ “t �j�dþ�d!d„“t �j�d"d„ “t �j	�d*�d#d„“t �j�d+�d$d„“¥i t �j�d%d„ “t �j�d �d&d„“t jP�j�d�d'd„“t jP�j�d	�d(d„“t jP�j�d	�d)d„“t �j�d#�d*d„“t �j�dû�d+d„“t �j�dû�d,d„“t �j�dû�d-d„“t �j�dû�d.d„“t �j�dû�d/d„“t �j�dû�d0d„“t �j	�d,�d1d„“t �j�dû�d2d„“t �j�dû�d3d„“t �j�dû�d4d„“t �j �dû�d5d„“¥i t �j!�dû�d6d„“t �j"�dû�d7d„“t �j#�dû�d8d„“t �j$�d9d„ “t �j%�dû�d:d„“t �j&�dû�d;d„“t �j'�dû�d<d„“t �j(�dû�d=d„“t �j)�dû�d>d„“t �j*�dû�d?d„“t �j+�d	�d@d„“t �j,�dAd„ “t �j-�d�dBd„“t �j.�dû�dCd„“t �j/�dû�dDd„“t �j0�d-�dEd„“t �j1�dû�dFd„“¥i t �j2�d�dGd„“t �j3�dHd„ “t �j4�dId„ “t �j5�dû�dJd„“t �j6�dû�dKd„“t jP�j0�d.�dLd„“t jP�j7�d.�dMd„“t jP�j8�d-�dNd„“t jP�j1�d-�dOd„“t jP�j6�dû�dPd„“t �j9�dQd„ “t jP�j9�dû�dRd„“t jP�j:�d!�dSd„“t jP�j;�dû�dTd„“t �j<�dUd„ “t jP�j<�dVd„ “t �j=�dû�dWd„“¥i t �j>�dû�dXd„“t �j?�dû�dYd„“t �j@�d/�dZd„“t �jA�d/�d[d„“t �jB�d/�d\d„“t �jC	�d0�d]d„“t �jD�dû�d^d„“t �jE�d1�d_d„“t �jF�dû�d`d„“t �jG�dû�dad„“t �jH�dbd„ “t �jI�dû�dcd„“t �jJ�dû�ddd„“t �jK�dû�ded„“t �jL�dfd„ “t �jM�dgd„ “t �jN�dhd„ “¥i t �jO�did„ “t �jP�djd„ “t �jQ�dkd„ “t �jR�dld„ “t �jS�dû�dmd„“t �jT�d2�dnd„“t �jU�dod„ “t �jV�dpd„ “t �jW�d	�dqd„“t �jX�dû�drd„“t �jY�dû�dsd„“t �jZ�d	�dtd„“t �j[�dû�dud„“t �j\�dvd„ “t �j]�dwd„ “t �j^�d3�dyd„“t �j_�dzd„ “¥i t �j`�d{d„ “t �ja�d|d„ “t �jb�d4�d}d„“t �jc�d~d„ “t �jd�d5�dd„“t �je�d€d„ “t �jf�dû�d�d„“t �jg�dû�d‚d„“t �jh�dû�dƒd„“t �ji�dû�d„d„“t �jj�dû�d…d„“t �jk�jl�jm�d†d„ “t �jk�jl�jn�d‡d„ “t �jk�jlj�dÿ�dˆd„“t �jk�jl�jo�dÿ�d‰d„“t �jk�jl�jp�dÿ�dŠd„“t �jk�jl�jq�dÿ�d‹d„“¥i t �jk�jl�jr�dÿ�dŒd„“t �jk�jl�js�dÿ�d�d„“t �jk�jl�jt�dû�dŽd„“t �jk�jlj�d6�d�d„“t �jk�jl�ju	�d7�d�d„“t �jk�jl�jv	�d7�d‘d„“t �jk�jlj.	�d8�d“d„“t �jk�jlj7�dû�d”d„“t �jk�jl�jw	?�d9�d•d„“t �jk�jlj8	�d�d–d„“t �jk�jljL�d�d—d„“t �jk�jljq	?�d�d˜d„“t �jk�jl�jx�	x�d:�dšd„“t �jk�jljv	�d�d›d„“t �jk�jlj��d;�dœd„“t �jk�jl�jy�d;�d�d„“t �jk�jl�jz�d;�džd„“¥i t �jk�jl�j{�d;�dŸd„“t �jk�jl�j|�d�d d„“t �jk�jlj—	�d�d¡d„“t �jk�jlj˜		�d<�d¢d„“t �jk�jlj¬�d6�d£d„“t �jk�jl�j}�d=�d¤d„“t �jk�jl�j~	�d>�d¥d„“t �jk�jl�j		�d>�d¦d„“t �jk�jl�j€	�d>�d§d„“t �jk�jl�j�		�d>�d¨d„“t �jk�jl�j‚�d?�dªd„“t �jk�jl�jƒ�d@�d¬d„“t �jk�jl�j„�dA�d­d„“t �jk�jl�j…�dB�d°d„“t �jk�jljß�d4�d±d„“t �jk�jl�j†�dC�d³d„“t �jk�jljä�d$�d´d„“¥i t �jk�jl�j‡�dD�d¶d„“t �jk�jljæ	?�d%�d·d„“t �jk�jljþ	�dE�d¸d„“t �jk�jl�jˆ	�dF�dºd„“t �jk�jl�j�d+�d»d„“t �jk�jl�j‰�dG�d¼d„“t �jk�jl�j�d4�d½d„“t �jk�jl�jŠ�dH�d¿d„“t �jk�jl�j‹�dû�dÀd„“t �jk�jl�jŒ�dI�dÃd„“t �jk�jl�j�dJ�dÅd„“t �jk�jl�j��dÆd„ “t �jk�jl�jŽ�d!�dÇd„“t �jk�jl�j��d!�dÈd„“t �jk�jl�j��d!�dÉd„“t �jk�jl�j2	?�d�dÊd„“t �jk�jl�j@	�d0�dËd„“¥i t �jk�jl�jC	�d0�dÌd„“t �jk�jl�jA	�d0�dÍd„“t �jk�jl�j‘	�d0�dÎd„“t �jk�jl�jB	�d0�dÏd„“t �jk�jl�j’	�d0�dÐd„“t �jk�jl�j“�dK�dÑd„“t �jk�jl�j”�dK�dÒd„“t �jk�jl�j•�dK�dÓd„“t �jk�jl�j–�dG�dÔd„“t �jk�jl�j—			�dL�dÕd„“t �jk�jl�j˜	?�dM�dÖd„“t �jk�jl�j™	?�dG�d×d„“t �jk�jl�jš	?�d9�dØd„“t �jk�jl�j›	?�dN�dÙd„“t �jk�jl�jœ�dO�dÛd„“t �jk�jl�j��dA�dÜd„“t �jk�jl�jž�dP�dÞd„“¥i t �jk�jl�jŸ�dQ�dßd„“t �jk�jl�j 	?�dR�dàd„“t �jk�jl�j¡�dád„ “t �jk�jl�j¢�dÿ�dâd„“t �jk�jl�j£�dÿ�dãd„“t �jk�jl�j¤�dS�dæd„“t �jk�jl�j¥�dÿ�dçd„“t �jk�jl�j¦�dÿ�dèd„“t �jk�jl�j§�dÿ�déd„“t �jk�jl�j¨�dT�dêd„“t �jk�jl�j©�dU�dëd„“t �jk�jl�jª�dV�dìd„“t �jk�jl�j«�dG�díd„“t �jk�jl�j¬�dJ�dîd„“t �jk�jl�j­�dJ�dïd„“t �jk�jl�j®�dW�dñd„“t �jk�jl�j¯�d$�dòd„“¥i t �jk�jl�j°�dód„ “t �jk�jl�j±�dôd„ “t �jk�jl�j²�dÿ�dõd„“t �jk�jl�j³	?�dX�död„“t �jk�jl�j´ddVdd?�d÷œ�død„“t �jk�jl�jµ�d=�dùd„“t �jk�j¶�j·�dY�dúd„“t �jk�j¶�j¸�dY�dûd„“t �jk�j¶�j¹�düd„ “t �jk�j¶�jº�dZ�dÿd„“t �j»�dÿ�d d„“t �j¼dƒ�dœ�dd„“t �j½�dd„ “t �j¾�d[�dd„“t jP�j¾�d\�dd„“t jP�j¿�d]�dd„“t jP�jÀ�d^�dd„“¥i t �jÁ�d_�d	d„“t �jÂ�d[�d
d„“t �jÃ�dd„ “t �jÄ�dd„ “t �jÅ�d`�dd„“t �jŸ�dQ�dd„“t �jÆ�dd„ “t �jÇ�da�dd„“t �jÈ�d�dd„“t �jÉ�db�dd„“t jP�jÊ�dc�dd„“t �jË�dd„ “t �jÌ�dd„ “t �jÍ�dû�dd„“t �j �dd„ “t �jÎ�dû�dd„“t �jÏ�dû�dd„“¥i t �j¡�dd„ “t �jÐ�d�dd„“t �jÑ�dû�dd„“t �jÒ�dû�dd„“t �jÓ�dÿ�dd„“t �jÔ�d d„ “t �jÕ�d!d„ “t �jÖ�d"d„ “t �j×�d#d„ “t �jØ�d$d„ “t �jÙ�d.�d%d„“t jP�jÙ�dd�d'd„“t �jÚ�de�d)d„“t �jÛ�de�d*d„“t �jÜ�d+d„ “t �jÝ�d,d„ “t �jÞ�d-d„ “¥i t �jß�d.d„ “t �jà�d/d„ “t �já�d0d„ “t �jâ�tãƒ �d1�d2df�d3d„“t �jä�tãƒ �d4�d5df�d6d„“t �jå�tãƒ �d7�d8df�d9d„“t �jæ�d:d„ “t �jç�d;d„ “t �jè�dû�d<d„“t �jé�d�d=d„“t �jêdt jÏddf�d>d„“t �jë�d�d?d„“t �jì�d@d„ “t �jí�dû�dAd„“t �jî�dû�dBd„“t jP�jï�d�dCd„“t �jð�dDd„ “¥i t �jñ�dEd„ “t �jò�dû�dFd„“t �j¢�dÿ�dGd„“t �jó�dû�dHd„“t �jô�dû�dId„“t �jõ�dû�dJd„“t �jö�dKd„ “t �j÷�dLd„ “t �jø�d�dMd„“t �jù�dNd„ “t �jú�d�dOd„“t �jû�dû�dPd„“t �jü�df�dRd„“t �jý�dû�dSd„“t �jþ�dû�dTd„“t �jÿ�dUd„ “t �j¤�dS�dVd„“¥i t �j �dû�dWd„“t �j�d2�dXd„“t �j�dü�dYd„“t �j�dZd„ “t �j�d[d„ “t �j�d)�d\d„“t �j�d�d]d„“t �j�dg�d_d„“t �j�d`d„ “t �j	�dad„ “t �j
�dh�dbd„“t �j�dh�dcd„“t �j¥�dÿ�ddd„“t �j�dû�ded„“t �j�dû�dfd„“t �j�dû�dgd„“t �j�dû�dhd„“¥i t �j�dû�did„“t �j�dû�djd„“t �j�dû�dkd„“t �j�dld„ “t jP�j�dmd„ “t �j�dnd„ “t �j�dod„ “t �j¬�dû�dpd„“t jP�j�d.�dqd„“t jP�j�d-�drd„“t �j�didd�dsœ�dtd„“t �j�d1�dud„“t �j�d1�dvd„“t �j�dû�dwd„“t �j�dû�dxd„“t �j�d�dyd„“t �j�dü�dzd„“¥i t �j�d�d{d„“t �j �dû�d|d„“t �j!�dû�d}d„“t �j"	�dj�dd„“t �j#�dû�d€d„“t �j$�dû�d�d„“t �j%�dû�d‚d„“t �j&�dƒd„ “t �j'�d„d„ “t �j(�d…d„ “t �j)�d†d„ “t �j*�d‡d„ “t �j+�dˆd„ “t �j,�d‰d„ “t �j-�dŠd„ “t �j.�d‹d„ “t �j/�dŒd„ “¥i t �j0�d�d„ “t �j1�dŽd„ “t �j2�d�d„ “t �j3�d�d„ “t �j4�d‘d„ “t �j5�d’d„ “t �j6�dû�d“d„“t �j7�dk�d”d„“t �j8�dl�d–d„“t jP�j7�d.�d—d„“t jP�j9�dû�d˜d„“t �j:�d™d„ “t �j;�dšd„ “t �j<�j=�d›d„ “t �j<�j>�dœd„ “t �j<�j?�d�d„ “t �j<�j@�džd„ “¥i t �j<�jA�dŸd„ “t �j<�jB�dû�d d„“t �j<�jC�dû�d¡d„“t �j<�jD�dû�d¢d„“t �j<�jE�dû�d£d„“t �j<jˆ�d¤d„ “t �j<�jF�d¥d„ “t �j<jœ�d¦d„ “t �j<j��d§d„ “t �j<�jG�d¨d„ “t �j<jž�d©d„ “t �j<j �dªd„ “t �j<�jH�d«d„ “t �j<j¡�d¬d„ “t �j<�jI�dû�d­d„“t �j<�jJ�dû�d®d„“t �j<�jK�d¯d„ “¥i t �j<�jL�dû�d°d„“t �j<�jM�dû�d±d„“t �j<j×�d²d„ “t �j<�jN�d³d„ “t �j<�jO�d´d„ “t �j<�jP�dµd„ “t �j<�jQ�dû�d¶d„“t �j<�jR�dû�d·d„“t �j<�j �d¸d„ “t �j<�jS�d¹d„ “t �j<�j�dû�dºd„“t �j<�j*�d»d„ “t �j<�j+�d	�d¼d„“t �j<�jT�d½d„ “t �j<�jU�d¾d„ “t �j<�jV�d¿d„ “t �j<�jW�dÀd„ “¥i t �j<�jX�dÁd„ “t �j<�jY�dÂd„ “t �j<�jZ�dÃd„ “t �j<�jÎ�dû�dÄd„“t �j<�j[�dÅd„ “t �j<�jý�dÆd„ “t �j<�j\�dÇd„ “t �j<�j]�dÈd„ “t �j<�j^�dû�dÉd„“t �j<�j_�dû�dÊd„“t �j<�j`�dû�dËd„“t �j<�ja�dû�dÌd„“t �j<�j�dÍd„ “t �j<�j¬�dû�dÎd„“t �j<�jb�dÏd„ “t �j<�jc�dû�dÐd„“t �j<�j%�dû�dÑd„“¥i t �j<�jd�dû�dÒd„“t �je�dÓd„ “t �jf�dÔd„ “t �jg�d�dÕd„“t �jh�dû�dÖd„“t �ji�dû�d×d„“t jP�jj�d�dØd„“t jP�jk�dû�dÙd„“t �jl�dm�dÚd„“t �jm�d1�dÛd„“t �j²�dÿ�dÜd„“t �jn�dÝd„ “t �jo�d2�dÞd„“t �jp�dßd„ “t �jq�dàd„ “t �jr�d�dád„“t �js�d�dâd„“¥i t �jt�dn�dãd„“t jP�ju�d`�däd„“t �jv�d�dåd„“t �j³	?�dX�dæd„“t �jw�d�dçd„“t �jx�dèd„ “t �jy�dû�déd„“t �jz�d1�dêd„“t �j{�dëd„ “t �j|�do�dìd„“t �j}�d�díd„“t �j~�dîd„ “t �j�d1�dïd„“t �j€�d1�dðd„“t �j��d1�dñd„“t �j‚�dû�dòd„“t jP�jƒ�dû�dód„“¥i t �j„�dû�dôd„“t �j…�dû�dõd„“t �j†�död„ “t �j‡�dû�d÷d„“t �jˆ�d�død„“t �j‰�d�dùd„“t �jŠ�dúd„ “t �j‹�dûd„ “t �jŒ�düd„ “t �j��dýd„ “t �jŽ�dþd„ “t �j��dÿd„ “t �j��dû�d d„“t �j‘�dd„ “t �j’�d�dd„“t �j“d�dœ�dd„“t �j”�dd„ “¥i t �j•�dd„ “t �j–�dd„ “t �j—�dd„ “t �j˜�d	d„ “t �j™�dh�d
d„“t �jš�d1�dd„“t �j›�d1�dd„“t �jœ�dd„ “t �j��dd„ “t �jž�dd„ “t �jŸ�dd„ “t �j �dd„ “t �j¡�dd„ “t �j¢�dd„ “t �j£�dd„ “t �j¤�dd„ “t �j¥�dd„ “¥i t �j¦�dd„ “t �j§�dd„ “t �j¨�d1�dd„“t �j©�dd„ “t �jª�dd„ “t �j«�dd„ “| �j¬�dd„ “| �j­�dd„ “| �j®�dd„ “| �j¯�d d„ “| �j°�d!d„ “| �j±�d"d„ “| �j²�d#d„ “| �j³�d$d„ “| �j´�d%d„ “| �jµ�d&d„ “| �j¶�d'd„ “¥i | �j·�d(d„ “| �j¸�d)d„ “| �j¹�d*d„ “| �jº�d+d„ “| �j»�d,d„ “| �j¼�d-d„ “| �j½�d.d„ “| �j¾�d/d„ “| �j¿�d0d„ “| �jÀ�d1d„ “| �jÁ�d2d„ “| �jÂ�d3d„ “| �jÃ�d4d„ “| �jÄ�d5d„ “| �jÅ�d6d„ “| �jÆ�d7d„ “| �jÇ�d8d„ “¥i | �jÈ�d9d„ “| �jÉ�d:d„ “| �jÊ�d;d„ “| �jË�d<d„ “| �jÌ�d=d„ “| �jÍ�d>d„ “| �jÎ�d?d„ “| �jÏd�d@œ�dAd„“| �jÐ�dBd„ “| �jÑ�dCd„ “| �jÒ�jÓ�dDd„ “| �jÔ�jÓ�dEd„ “| �jÕ�jÓ�dFd„ “| �jÖ�jÓ�dGd„ “| �j×�jÓ�dHd„ “| �jØ�jÓ�dId„ “| �jÙ�jÓ�dJd„ “¥i | �jÚ�jÓ�dKd„ “| �jÛ�jÓ�dLd„ “| �jÜ�jÓ�dMd„ “| �jÝ�jÓ�dNd„ “| �jÞ�jÓ�dOd„ “| �jß�jÓ�dPd„ “| �jà�dQd„ “| �já�dRd„ “| �jâ�jÓ�dSd„ “| �jã�jÓ�dTd„ “| �jä�jÓ�dUd„ “| �jå�jÓ�dVd„ “| �jæ�jÓ�dWd„ “| �jç�jÓ�dXd„ “| �jè�jÓ�dYd„ “| �jé�jÓ�dZd„ “| �jê�jÓ�d[d„ “¥i | �jë�jÓ�d\d„ “| �jì�jÓ�d]d„ “| �jí�jÓ�d^d„ “| �jî�jÓ�d_d„ “| �jï�jÓ�d`d„ “| �jð�jÓ�dad„ “| �jñ�jÓ�dbd„ “| �jò�jÓ�dcd„ “| �jó�jÓ�ddd„ “| �jô�jÓ�ded„ “| �jõ�jÓ�dfd„ “| �jö�jÓ�dgd„ “| �j÷�jÓ�dhd„ “| �jø�jÓ�did„ “| �jù�jÓ�djd„ “| �jú�jÓ�dkd„ “| �jû�jÓ�dld„ “¥i | �jü�jÓ�dmd„ “| �jý�jÓ�dnd„ “| �jþ�jÓ�dod„ “| �jÿ�jÓ�dpd„ “| �jí�jÓ�dqd„ “| jñ�jÓ�drd„ “| �j �jÓ�dsd„ “| �j�d!�dtd„“| �j�dud„ “| �j�dvd„ “| �j�dwd„ “| �j�dxd„ “| �j�dyd„ “| �j�dzd„ “| �j�d{d„ “| �j	�d|d„ “| �j
�d}d„ “¥i | �j�d~d„ “| �j�dd„ “| j�d€d„ “| �j�d�d„ “| �j�d‚d„ “| �j�dƒd„ “| �j�d„d„ “| �j�d…d„ “| �j�d>�d†d„“| �jt �jf�d‡d„“| �jt �jf�dˆd„“| �jt �jf�d‰d„“| �jt �jf�dŠd„“| �j�dQd�d‹œ�dŒd„“| �j�d�d„ “| �j�dŽd„ “| �jt �jf�d�d„“¥i | �j�dÿ�d�d„“| �jt �jf�d‘d„“| �jt �jf�d’d„“| �j t �jf�d“d„“| �j!t �jf�d”d„“| �j"�d•d„ “| �j#�d–d„ “| j†�d�d—d„“| �j$�d˜d„ “| �j%�d™d„ “| �j&t �jf�dšd„“| �j't �jf�d›d„“| �j(�dœd„ “| �j)�d�d„ “| �j*�džd„ “| �j+�d2d�d‹œ�dŸd„“| �j,�d d„ “¥i | �j-�d¡d„ “| �j.t �jf�d¢d„“| �j/t �jf�d£d„“| �j0d�d‹œ�d¤d„“| �j1�d¥d„ “| �j2t �jf�d¦d„“| �j3t �jf�d§d„“| �j4�d¨d„ “| �j5�d©d„ “| �j6t �jf�dªd„“| �j7�d«d„ “| �j8�d¬d„ “| �j�d­d„ “| �j9�d®d„ “| �j:�d¯d„ “| �j;�d°d„ “| �j<�d±d„ “¥i | �j=�dpd�d‹œ�d²d„“| �j�d³d„ “| �j>t �jf�d´d„“| �j?�dµd„ “| �j@�d¶d„ “| �jS�d·d„ “| �jA�dÿ�d¸d„“| �j”�d¹d„ “| �jB�dºd„ “| �jC�d»d„ “| �jD�d¼d„ “| �jE�d½d„ “| �jF�d¾d„ “| �j¸�d¿d„ “| �jG�dÀd„ “| �jÆ�dÁd„ “| �jH�dÂd„ “¥i | �jI�dÿ�dÃd„“| �jJ�dÄd„ “| �jK�dd�d‹œ�dÅd„“| �jL�dÆd„ “| �jM�dÇd„ “| �jN�dÈd„ “| �jO�dÉd„ “| �jP�dÊd„ “| �jQ�dËd„ “| �jR�d)�dÌd„“| �jS�dÍd„ “| �jT�dÎd„ “| �jU�dÏd„ “| �jV�dÐd„ “| �jW�dÑd„ “| �jX�dÒd„ “| �jY�dq�dÓd„“¥i | �j	�dÔd„ “| �jZ�dÕd„ “| �j[t �jf�dÖd„“| �j\�d×d„ “| �j�dh�dØd„“| �j]�dÙd„ “| �j^�dÚd„ “| �j_�dÿ�dÛd„“| �j`�dÜd„ “| �ja�dÝd„ “| �j�dü�dÞd„“| �jb�dßd„ “| �jc�dàd„ “| �jd�dád„ “| �je�dâd„ “| �jf�dãd„ “| �jn�däd„ “¥i | �jgddt �jf�dåd„“| �jh�dûd�dæœ�dçd„“| �ji�d�dèd„“| �jj�déd„ “| �jk�dêd„ “| �jl�dëd„ “| �jm�dìd„ “| �jµ�díd„ “| �j·�dQ�dîd„“| �jn�dïd„ “| �jo�dðd„ “| �jp�dñd„ “| �jq�dòd„ “| �jr�dû�dód„“| �js�dôd„ “t jP�jt�d�dõd„“¥}i }�tuƒ }|� v¡ D ]}\}}|�jw|�jw�dö �d÷|�jw �d÷ �dø|�jw �d÷ �dù|�jw �d÷ g}|�jw� x�dú¡�#rÿ|�jw�ty�dúƒd… }|� z�d÷| �d÷ �dø| �d÷ �dù| �d÷ g¡ |D ]}�t{| |dƒ}	�t||	ƒ�$r|	|v�$r|	|v�$r|||	< �$q�#q¤|� }|¡ |S (r  ar  Return a dict containing dummy overrides for all overridable functions

    Returns
    -------
    Dict[Callable, Callable]
        A dictionary that maps overridable functions in the PyTorch API to
        lambda functions that have the same signature as the real function
        and unconditionally return -1. These lambda functions are useful
        for testing API coverage for a type that defines ``__torch_function__``.

    Examples
    --------
    >>> import inspect
    >>> my_add = torch.overrides.get_testing_overrides()[torch.add]
    >>> inspect.signature(my_add)
    <Signature (input, other, out=None)>
    Nc                 S   ó   dS ©Néÿÿÿÿr/   ©ÚinputÚoutr/   r/   r0   Ú<lambda>Ÿ  ó    z'get_testing_overrides.<locals>.<lambda>c                 S   rþ   rÿ   r/   r  r/   r/   r0   r     r  c                 S   rþ   rÿ   r/   ©r  Úoutput_sizer/   r/   r0   r  ¡  r  c                 S   rþ   rÿ   r/   )Úinputsr  r/   r/   r0   r  ¢  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  £  r  c                 S   rþ   rÿ   r/   ©r  r/   r/   r0   r  ¤  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ¥  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ¦  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  §  r  c                 S   rþ   rÿ   r/   ©r  Úotherr  r/   r/   r0   r  ¨  r  é   c                 S   rþ   rÿ   r/   ©r  Zbatch1Zbatch2ÚalphaÚbetar  r/   r/   r0   r  ©  r  c                 S   rþ   rÿ   r/   ©r  Ztensor1Ztensor2Úvaluer  r/   r/   r0   r  ª  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  «  r  c                 S   rþ   rÿ   r/   ©r  Úmat1Úmat2r  r  r  r/   r/   r0   r  ¬  r  c                 S   rþ   rÿ   r/   )r  ÚmatÚvecr  r  r  r/   r/   r0   r  ­  r  c                 S   rþ   rÿ   r/   )r  Zvec1Úvec2r  r  r  r/   r/   r0   r  ®  r  c                 S   rþ   rÿ   r/   ©ÚthetaÚsizeÚalign_cornersr/   r/   r0   r  ¯  r  c                 S   rþ   rÿ   r/   ©r  Údimr/   r/   r0   r  °  r  çñhãˆµøä>ç:Œ0âŽyE>Fc                 S   rþ   rÿ   r/   )r  r  ZtrolÚatolÚ	equal_nanr/   r/   r0   r  ±  r  c                 S   rþ   rÿ   r/   ©r  ÚpÚtrainÚinplacer/   r/   r0   r  ²  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ³  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ´  r  c                 S   rþ   rÿ   r/   ©r  r  Úkeepdimr  r/   r/   r0   r  µ  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ¶  r  c                 S   rþ   rÿ   r/   r&  r/   r/   r0   r  ·  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ¸  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ¹  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  º  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  »  r  c                 S   rþ   rÿ   r/   )r  Úmsgr/   r/   r0   r  ¼  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ½  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ¾  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ¿  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  À  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  Á  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  Â  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  Ã  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  Ä  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  Å  r  c                  W   rþ   rÿ   r/   ©Útensorsr/   r/   r0   r  Æ  r  c                  W   rþ   rÿ   r/   r)  r/   r/   r0   r  Ç  r  c                  W   rþ   rÿ   r/   r)  r/   r/   r0   r  È  r  r   Tc                 S   rþ   rÿ   r/   )r  Úkernel_sizerÛ   ÚpaddingÚ	ceil_modeÚcount_include_padr/   r/   r0   r  É  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  Ê  r  c	           	      S   rþ   rÿ   r/   )	r  ÚweightÚbiasÚrunning_meanÚrunning_varÚtrainingÚmomentumÚepsÚcudnn_enabledr/   r/   r0   r  Ë  r  c                 S   rþ   rÿ   r/   )Úgrad_outr  ÚmeanÚinvstdr/  Zsum_dyZ
sum_dy_xmuZcount_tensorr/   r/   r0   r  Ì  r  c                 S   rþ   rÿ   r/   )r7  r  r8  r9  r/  Zinput_gZweight_gZbias_gr/   r/   r0   r  Í  r  c                 S   rþ   rÿ   r/   )r  r/  r0  r8  r9  r5  r/   r/   r0   r  Î  r  c                 S   rþ   rÿ   r/   ©r  r8  r9  r1  r2  r4  r5  Úcountr/   r/   r0   r  Ï  r  c                 S   rþ   rÿ   r/   r:  r/   r/   r0   r  Ð  r  c                 S   rþ   rÿ   r/   ©r  r5  r/   r/   r0   r  Ñ  r  c                 S   rþ   rÿ   r/   )r  r1  r2  r4  r/   r/   r0   r  Ò  r  c                 S   rþ   rÿ   r/   )r  Ú	generatorr  r/   r/   r0   r  Ó  r  c                 S   rþ   rÿ   r/   ©Úinput1Úinput2r/  r0  r/   r/   r0   r  Ô  r  r8  c                 S   rþ   rÿ   r/   ©r  Útargetr/  Úsize_averageÚreduceÚ	reductionZ
pos_weightr/   r/   r0   r  Õ  ó   c                 S   rþ   rÿ   r/   )r  ÚweightsÚ	minlengthr/   r/   r0   r  ×  r  c                 S   rþ   rÿ   r/   )r;  Zprobr=  r/   r/   r0   r  Ø  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  Ù  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  Ú  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  Û  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  Ü  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  Ý  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  Þ  r  c                  W   rþ   rÿ   r/   r)  r/   r/   r0   r  ß  r  c                 S   rþ   rÿ   r/   ©r  r  r  r/   r/   r0   r  à  r  c                  W   rþ   rÿ   r/   r)  r/   r/   r0   r  á  r  c                 S   rþ   rÿ   r/   ©Úselfr  r/   r/   r0   r  â  r  c                 S   rþ   rÿ   r/   )r  Z
boundariesÚ	out_int32Úrightr  r/   r/   r0   r  ã  r  c                  W   rþ   rÿ   r/   r)  r/   r/   r0   r  ä  r  c                 S   rþ   rÿ   r/   ©r*  r  r  r/   r/   r0   r  å  r  c                 S   rþ   rÿ   r/   rN  r/   r/   r0   r  æ  r  c                 S   rþ   rÿ   r/   rN  r/   r/   r0   r  ç  r  ç       @Ú#use_mm_for_euclid_dist_if_necessaryc                 S   rþ   rÿ   r/   )Úx1Úx2r#  Zcompute_moder/   r/   r0   r  è  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  é  r  ç      ð?c                 S   rþ   rÿ   r/   ©r  r  r%  r/   r/   r0   r  ê  r  )r  c                 W   rþ   rÿ   r/   )r  Zmatricesr/   r/   r0   r  ë  r  c                 S   rþ   rÿ   r/   ©r  Úgroupsr/   r/   r0   r  ì  r  c                 S   rþ   rÿ   r/   ©r  Úupperr  r/   r/   r0   r  í  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  î  r  c                 S   rþ   rÿ   r/   ©r  Úcheck_errorsr  r/   r/   r0   r  ï  r  c                 S   rþ   rÿ   r/   rW  r/   r/   r0   r  ð  r  c                 S   rþ   rÿ   r/   )r?  r@  rX  r  r/   r/   r0   r  ñ  r  c                 S   rþ   rÿ   r/   )r  ÚnumelZn_binsZratioZ	bit_widthr/   r/   r0   r  ò  r  c                 S   rþ   rÿ   r/   ©r  Úchunksr  r/   r/   r0   r  ó  r  c                 S   rþ   rÿ   r/   ©r  ÚminÚmaxr  r/   r/   r0   r  ô  r  c                 S   rþ   rÿ   r/   r^  r/   r/   r0   r  õ  r  c                 S   rþ   rÿ   r/   )r  r_  r  r/   r/   r0   r  ö  r  c                 S   rþ   rÿ   r/   )r  r`  r  r/   r/   r0   r  ÷  r  c                 S   rþ   rÿ   r/   ©r*  r  r/   r/   r0   r  ø  r  c                 S   rþ   rÿ   r/   )r  Z
correctionÚfweightsÚaweightsr/   r/   r0   r  ù  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ú  r  é   c                 S   rþ   rÿ   r/   )r  ÚrZwith_replacementr/   r/   r0   r  û  r  c                 S   rþ   rÿ   r/   )ÚrealÚimagr/   r/   r0   r  ü  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  ý  r  c                 S   rþ   rÿ   r/   )ÚabsZangr/   r/   r0   r  þ  r  c                 S   rþ   rÿ   r/   )r  Úordr/   r/   r0   r  ÿ  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r     r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   )r  Úpadr  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ©r  r/  r0  rÛ   r,  ÚdilationrV  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   rk  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   rk  r/   r/   r0   r    r  c	           	      S   rþ   rÿ   r/   )	r  r/  r0  rÛ   r,  rl  Z
transposedZoutput_addingrV  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   )r  r/  r0  rj  r/   r/   r0   r  	  r  c                 S   rþ   rÿ   r/   ©r  r/  r0  rÛ   r,  Úoutput_paddingrV  rl  r/   r/   r0   r  
  r  c                 S   rþ   rÿ   r/   rm  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   rm  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ©r?  r@  rB  ÚmarginrC  rD  rE  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   )rQ  rR  r  r5  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ©r  r  r  r  r/   r/   r0   r    r  r   c                 S   rþ   rÿ   r/   rq  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ©Z	log_probsÚtargetsZinput_lengthsZtarget_lengthsZblankrE  Zzero_infinityr/   r/   r0   r    rF  c                 S   rþ   rÿ   r/   ©r  r  r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   rt  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ©r  r  r  r]   r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ru  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ©ÚyÚxr  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   rt  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r     r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  !  r  c                 S   rþ   rÿ   r/   ©r  Údiagonalr  r/   r/   r0   r  "  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  #  r  c                 S   rþ   rÿ   r/   )r  Úoffsetr/   r/   r0   r  $  r  c                 S   rþ   rÿ   r/   )r  Únr  ÚprependÚappendr  r/   r/   r0   r  %  r  c                 S   rþ   rÿ   r/   ©r  r{  Údim1Údim2r/   r/   r0   r  &  r  éþÿÿÿc                 S   rþ   rÿ   r/   r  r/   r/   r0   r  '  r  c                 S   rþ   rÿ   r/   )r  Úsrcr{  r€  r�  r/   r/   r0   r  (  r  c                 S   rþ   rÿ   r/   )rK  rƒ  r  rÛ   Ústorage_offsetr/   r/   r0   r  )  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  *  r  c                 S   rþ   rÿ   r/   )r  r  r#  r/   r/   r0   r  +  r  c                 S   rþ   rÿ   r/   ©r  r  Zrounding_moder  r/   r/   r0   r  ,  r  c                 S   rþ   rÿ   r/   r…  r/   r/   r0   r  -  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  .  r  c                 S   rþ   rÿ   r/   r"  r/   r/   r0   r  /  r  c                 S   rþ   rÿ   r/   ©r  r  r/   r/   r0   r  0  r  c                 S   rþ   rÿ   r/   )r  r  r/   r/   r0   r  1  r  c                 S   rþ   rÿ   r/   ©r  Úindices_or_sectionsr/   r/   r0   r  2  r  c                 S   rþ   rÿ   r/   ra  r/   r/   r0   r  3  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  4  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  5  r  ÚLc                 S   rþ   rÿ   r/   ©r  ÚUPLOr  r/   r/   r0   r  6  r  c                 S   rþ   rÿ   r/   rŠ  r/   r/   r0   r  7  r  c                 W   rþ   rÿ   r/   )ZequationÚoperandsr/   r/   r0   r  8  r  c                 S   rþ   rÿ   r/   ©r  r/  Úpadding_idxÚmax_normÚ	norm_typeÚscale_grad_by_freqr–   r/   r/   r0   r  9  rF  c
           
      S   rþ   rÿ   r/   )
r  r/  Úoffsetsr�  r�  r‘  Úmoder–   Úper_sample_weightsrŽ  r/   r/   r0   r  ;  rF  c                 S   rþ   rÿ   r/   ©r  r]   rk   r\   Úrequires_gradr/   r/   r0   r  =  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  >  r  c                 S   rþ   rÿ   r/   ©r  r  r/   r/   r0   r  ?  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  @  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  A  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  B  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  C  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  D  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  E  r  c                 S   rþ   rÿ   r/   )r  ÚscaleÚ
zero_pointÚaxisÚ	quant_minÚ	quant_maxr/   r/   r0   r  F  r  c                 S   rþ   rÿ   r/   )r  r˜  r™  r›  rœ  r/   r/   r0   r  G  r  c                 S   rþ   rÿ   r/   )rx  Zobserver_onZfake_quant_onZaveraging_constZrunning_minZrunning_maxr˜  r™  r›  rœ  Zch_axisZper_row_fake_quantZsymmetric_quantr/   r/   r0   r  H  ó   c                 S   rþ   rÿ   r/   ©r  Zpacked_weightr0  r/   r/   r0   r  K  r  c                 S   rþ   rÿ   r/   rž  r/   r/   r0   r  L  r  c                 S   rþ   rÿ   r/   ©r  r/  ÚpackedZcol_offsetsZweight_scaleZweight_zero_pointr0  r/   r/   r0   r  M  r  c                 S   rþ   rÿ   r/   rŸ  r/   r/   r0   r  N  rF  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  P  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  Q  r  c                 S   rþ   rÿ   r/   )r  ÚaÚbr/   r/   r0   r  R  r  c                 S   rþ   rÿ   r/   ©r  r#  r$  r/   r/   r0   r  S  r  c                 S   rþ   rÿ   r/   r£  r/   r/   r0   r  T  r  c                 S   rþ   rÿ   r/   ©r  r|  r  Únormr/   r/   r0   r  U  r  c                 S   rþ   rÿ   r/   r¤  r/   r/   r0   r  V  r  c                 S   rþ   rÿ   r/   r¤  r/   r/   r0   r  W  r  c                 S   rþ   rÿ   r/   r¤  r/   r/   r0   r  X  r  c                 S   rþ   rÿ   r/   r¤  r/   r/   r0   r  Y  r  ©r‚  r   c                 S   rþ   rÿ   r/   ©r  Úsr  r¥  r/   r/   r0   r  Z  r  c                 S   rþ   rÿ   r/   r§  r/   r/   r0   r  [  r  c                 S   rþ   rÿ   r/   r§  r/   r/   r0   r  \  r  c                 S   rþ   rÿ   r/   r§  r/   r/   r0   r  ]  r  c                 S   rþ   rÿ   r/   r§  r/   r/   r0   r  ^  r  c                 S   rþ   rÿ   r/   r§  r/   r/   r0   r  _  r  c                 S   rþ   rÿ   r/   r§  r/   r/   r0   r  `  r  c                 S   rþ   rÿ   r/   r§  r/   r/   r0   r  a  r  c                 S   rþ   rÿ   r/   r§  r/   r/   r0   r  b  r  c                 S   rþ   rÿ   r/   r§  r/   r/   r0   r  c  r  c                 S   rþ   rÿ   r/   r§  r/   r/   r0   r  d  r  c                 S   rþ   rÿ   r/   r§  r/   r/   r0   r  e  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  f  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  g  r  c                 S   rþ   rÿ   r/   r¤  r/   r/   r0   r  h  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  i  r  c                 S   rþ   rÿ   r/   )r  Z	start_dimZend_dimr/   r/   r0   r  j  r  c                 S   rþ   rÿ   r/   ©r  Údimsr/   r/   r0   r  k  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  l  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  m  r  c                 S   rþ   rÿ   r/   r&  r/   r/   r0   r  n  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  o  r  c                 S   rþ   rÿ   r/   r—  r/   r/   r0   r  p  r  c                 S   rþ   rÿ   r/   ©r  Úexponentr  r/   r/   r0   r  q  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  r  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  s  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  t  r  c                 S   rþ   rÿ   r/   )r  Ú
fill_valuer  r]   rk   r\   r–  r/   r/   r0   r  u  r  c                 S   rþ   rÿ   r/   )r  r(  Z	dep_tokenr/   r/   r0   r  v  r  c                 S   rþ   rÿ   r/   )ÚLU_dataÚ	LU_pivotsZunpack_dataZunpack_pivotsr/   r/   r0   r  w  r  c                 S   rþ   rÿ   r/   )r  r  Úindexr  Zsparse_gradr/   r/   r0   r  x  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  y  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  z  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  {  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  |  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  }  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  ~  r  c                 S   rþ   rÿ   r/   ©r  r  r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r±  r/   r/   r0   r  €  r  c                 S   rþ   rÿ   r/   )r  Úspacingr  Ú
edge_orderr/   r/   r0   r  �  r  c                 S   rþ   rÿ   r/   ©r  ÚgridZinterpolation_modeÚpadding_moder  r/   r/   r0   r  ‚  r  c                 S   rþ   rÿ   r/   r´  r/   r/   r0   r  ƒ  r  c                 S   rþ   rÿ   r/   r´  r/   r/   r0   r  „  r  c                 S   rþ   rÿ   r/   )r  Ú
num_groupsr/  r0  r5  r6  r/   r/   r0   r  …  r  c	           	      S   rþ   rÿ   r/   ©	r  ÚhxÚparamsÚ
has_biasesÚ
num_layersÚdropoutr$  ÚbidirectionalÚbatch_firstr/   r/   r0   r  †  r  c                 S   rþ   rÿ   r/   ©r  r¹  Úw_ihÚw_hhÚb_ihÚb_hhr/   r/   r0   r  ‡  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  ˆ  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  ‰  r  ç      à?c                 S   rþ   rÿ   r/   ©r  Úlambdr/   r/   r0   r  Š  r  c                 S   rþ   rÿ   r/   )r  Úvaluesr  r/   r/   r0   r  ‹  r  c                 S   rþ   rÿ   r/   ©r  rB  rp  rC  rD  rE  r/   r/   r0   r  Œ  r  éd   c                 S   rþ   rÿ   r/   )r  Úbinsr_  r`  r  r/   r/   r0   r  �  r  c                 S   rþ   rÿ   r/   )r  rË  r_  r`  r/  Údensityr  r/   r/   r0   r  Ž  r  c                 S   rþ   rÿ   r/   )r  rË  r‚   r/  rÌ  r/   r/   r0   r  �  r  c                 S   rþ   rÿ   r/   ©r  Útaur/   r/   r0   r  �  r  c                 S   rþ   rÿ   r/   )r  r  r  r/   r/   r0   r  ‘  r  c                 S   rþ   rÿ   r/   r‡  r/   r/   r0   r  ’  r  c                 S   rþ   rÿ   r/   ra  r/   r/   r0   r  “  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  ”  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  •  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  –  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  —  r  c                 S   rþ   rÿ   r/   ©r  r  r°  Úsourcer/   r/   r0   r  ˜  r  c                 S   rþ   rÿ   r/   rÏ  r/   r/   r0   r  ™  r  c                 S   rþ   rÿ   r/   )r  ÚindicesrÈ  Ú
accumulater/   r/   r0   r  š  r  c                 S   rþ   rÿ   r/   )r  r  r°  r  r/   r/   r0   r  ›  r  c                 S   rþ   rÿ   r/   )r  r  r°  r  r/   r/   r0   r  œ  r  c                 S   rþ   rÿ   r/   )r  r  r°  rÐ  rD  Zinclude_inputr/   r/   r0   r  �  r  c                 S   rþ   rÿ   r/   ©rW   r/   r/   r0   r  ž  r  c                 S   rþ   rÿ   r/   )ÚeÚteÚassume_uniqueÚinvertr/   r/   r0   r  Ÿ  r  c                 S   rþ   rÿ   r/   rÓ  r/   r/   r0   r     r  c                 S   rþ   rÿ   r/   rÓ  r/   r/   r0   r  ¡  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ¢  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  £  r  c	           	      S   rþ   rÿ   r/   )	r  r1  r2  r/  r0  Úuse_input_statsr4  r5  r6  r/   r/   r0   r  ¤  rF  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ¦  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  §  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ¨  r  c                 S   rþ   rÿ   r/   rY  r/   r/   r0   r  ©  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ª  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  «  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ¬  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ­  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ®  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ¯  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  °  r  c                 S   rþ   rÿ   r/   r—  r/   r/   r0   r  ±  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ²  r  c                 S   rþ   rÿ   r/   )r  r  Úrtolr   r!  r/   r/   r0   r  ³  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ´  r  c
           
      S   rþ   rÿ   r/   )
r  Ún_fftÚ
hop_lengthÚ
win_lengthÚwindowÚcenterÚ
normalizedÚonesidedÚlengthÚreturn_complexr/   r/   r0   r  µ  rF  c                 S   rþ   rÿ   r/   ©r  rB  rC  rD  rE  Z
log_targetr/   r/   r0   r  ·  r  c                 S   rþ   rÿ   r/   r—  r/   r/   r0   r  ¸  r  c                 S   rþ   rÿ   r/   )r  Úkr  r'  r  r/   r/   r0   r  ¹  r  c                 S   rþ   rÿ   r/   )r  Ú	hermitianrZ  r  r/   r/   r0   r  º  r  c                 S   rþ   rÿ   r/   )r  rå  r  r/   r/   r0   r  »  r  c                 S   rþ   rÿ   r/   )ÚLDÚpivotsÚBrå  r  r/   r/   r0   r  ¼  r  c                 S   rþ   rÿ   r/   )r  Únormalized_shaper/  r0  Zespr6  r/   r/   r0   r  ½  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  ¾  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  ¿  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  À  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  Á  r  c                 S   rþ   rÿ   r/   )r  Úendr/  r  r/   r/   r0   r  Â  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  Ã  r  c                 S   rþ   rÿ   r/   )r  rä  rè  ÚXr|  ZiKÚniterÚtolZlargestÚmethodZtrackerZortho_iparamsZortho_fparamsZortho_bparamsr/   r/   r0   r  Ä  rF  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  Æ  r  c                 S   rþ   rÿ   r/   ©r  r  r]   r/   r/   r0   r  Ç  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  È  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  É  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  Ê  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  Ë  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  Ì  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  Í  r  c                 S   rþ   rÿ   r/   )rx  rw  r  r/   r/   r0   r  Î  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  Ï  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  Ð  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  Ñ  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  Ò  r  c                 S   rþ   rÿ   r/   r<  r/   r/   r0   r  Ó  r  c                 S   rþ   rÿ   r/   )r  Únamesr'  r  r/   r/   r0   r  Ô  r  c	           	      S   rþ   rÿ   r/   )	ÚdataÚbatch_sizesr¹  rº  r»  r¼  r½  r$  r¾  r/   r/   r0   r  Õ  r  c                 S   rþ   rÿ   r/   rÀ  r/   r/   r0   r  Ö  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  ×  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  Ø  r  c                 S   rþ   rÿ   r/   )ÚAÚpivotÚ	get_infosr  r/   r/   r0   r  Ù  r  c                 S   rþ   rÿ   r/   )r¢  r®  r¯  r  r/   r/   r0   r  Ú  r  c                 S   rþ   rÿ   r/   ro  r/   r/   r0   r  Û  r  c                 S   rþ   rÿ   r/   )r  Úmaskr  r/   r/   r0   r  Ü  r  c                 S   rþ   rÿ   r/   )r  rö  rÐ  r/   r/   r0   r  Ý  r  c                 S   rþ   rÿ   r/   )r  rö  r  r/   r/   r0   r  Þ  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  ß  r  c                 S   rþ   rÿ   r/   ©r  rô  r  r/   r/   r0   r  à  r  c                 S   rþ   rÿ   r/   r÷  r/   r/   r0   r  á  r  c                 S   rþ   rÿ   r/   )r  rô  rZ  r  r/   r/   r0   r  â  r  c                 S   rþ   rÿ   r/   )ÚLUrç  rè  ÚleftÚadjointr  r/   r/   r0   r  ã  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  ä  r  c                 S   rþ   rÿ   r/   )r  r|  r/   r/   r0   r  å  r  c                 S   rþ   rÿ   r/   ©r  r|  r  r/   r/   r0   r  æ  r  c                 S   rþ   rÿ   r/   )r  rí  rå  r/   r/   r0   r  ç  r  c                 S   rþ   rÿ   r/   ra  r/   r/   r0   r  è  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  é  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ê  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ë  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  ì  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  í  r  c                 S   rþ   rÿ   r/   ©r  r+  rÛ   r,  rl  r-  r/   r/   r0   r  î  r  c                 S   rþ   rÿ   r/   rü  r/   r/   r0   r  ï  r  c                 S   rþ   rÿ   r/   rü  r/   r/   r0   r  ð  r  c                 S   rþ   rÿ   r/   ©r  r+  rÛ   r,  rl  Úreturn_indicesr-  r/   r/   r0   r  ñ  rF  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ó  r  c                 S   rþ   rÿ   r/   )r  r  r'  r]   r  r/   r/   r0   r  ô  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  õ  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ö  r  c                  _   rþ   rÿ   r/   )r*  r-   r/   r/   r0   r  ÷  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ø  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  ù  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  ú  r  c                 S   rþ   rÿ   r/   )r  r/  r0  r1  r2  r3  Zexponential_average_factorÚepsilonr/   r/   r0   r  û  rF  c	           	      S   rþ   rÿ   r/   ©	r  r/  r0  r,  rÛ   rl  rV  Ú	benchmarkÚdeterministicr/   r/   r0   r  ý  r  c	           	      S   rþ   rÿ   r/   )	r  r/  Úzr  r0  rÛ   r,  rl  rV  r/   r/   r0   r  þ  r  c                 S   rþ   rÿ   r/   rk  r/   r/   r0   r  ÿ  r  c
           
      S   rþ   rÿ   r/   )
r  r/  r0  r,  rn  rÛ   rl  rV  r  r  r/   r/   r0   r     rF  c	           	      S   rþ   rÿ   r/   r   r/   r/   r0   r    rF  c                 S   rþ   rÿ   r/   )r  r/  Zweight_stride0r¹  Zcxr“  Zhidden_sizer¼  r¿  r½  r$  r¾  rò  Zdropout_stater/   r/   r0   r    rF  c                 S   rþ   rÿ   r/   rI  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r&  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ©r  rÐ  Údestinationr/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  	  r  c                 S   rþ   rÿ   r/   )r  Ú
descendingr  r/   r/   r0   r  
  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   )r  Znum_samplesÚreplacementr  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   )r  r  r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ©r  r#  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   )r  r  Ústartrá  r/   r/   r0   r    r  ç        c                 S   rþ   rÿ   r/   )r  ÚnanÚposinfÚneginfr  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   )r  r/  r0  r1  r2  r3  r4  r5  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   )r  r/  r0  r3  r4  r5  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r£  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ©r  ré  r/  r0  r5  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   )r  r/  r0  ÚNÚCZHxWÚgroupr5  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   )r  r#  r  r'  r]   r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   rU  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ©r  r  rþ  r/   r/   r0   r     r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  !  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  "  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  #  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  $  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  %  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  &  r  c                 S   rþ   rÿ   r/   ©r  r#  r3  r%  r/   r/   r0   r  '  r  c                 S   rþ   rÿ   r/   ©r  r+  rÛ   r,  r-  r.  Zdivisor_overrider/   r/   r0   r  (  rF  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  *  rF  çš™™™™™¹?c                 S   rþ   rÿ   r/   )r  r1  r2  r/  r0  r3  r4  r5  r/   r/   r0   r  ,  rF  c                 S   rþ   rÿ   r/   r>  r/   r/   r0   r  .  r  c                 S   rþ   rÿ   r/   ©r  rB  r/  rC  rD  rE  r/   r/   r0   r  /  rF  c                 S   rþ   rÿ   r/   rA  r/   r/   r0   r  1  rF  c                 S   rþ   rÿ   r/   rT  r/   r/   r0   r  3  r  c                 S   rþ   rÿ   r/   ro  r/   r/   r0   r  4  rF  éœÿÿÿc                 S   rþ   rÿ   r/   )r  rB  r/  rC  Úignore_indexrD  rE  Zlabel_smoothingr/   r/   r0   r  6  rF  c                 S   rþ   rÿ   r/   rr  r/   r/   r0   r  8  rF  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  :  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ;  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  <  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  =  r  c                 S   rþ   rÿ   r/   rT  r/   r/   r0   r  >  r  c                 S   rþ   rÿ   r/   r�  r/   r/   r0   r  ?  rF  c                 S   rþ   rÿ   r/   )r  r/  r’  r�  r�  r‘  r“  r–   r”  Zinclude_last_offsetrŽ  r/   r/   r0   r  A  r�  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  D  r  c                 S   rþ   rÿ   r/   )r  r  r+  rl  r,  rÛ   r/   r/   r0   r  E  r  c                 S   rþ   rÿ   r/   ©r  r+  r  Zoutput_ratiorþ  Z_random_samplesr/   r/   r0   r  F  rF  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  I  rF  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  K  rF  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  N  rF  ç�íµ ÷Æ°>c                 S   rþ   rÿ   r/   )r  rB  Úvarrx   r5  rE  r/   r/   r0   r  P  r  Únonec                 S   rþ   rÿ   r/   )r  Zapproximater/   r/   r0   r  Q  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  R  r  Úbilinearr‹   c                 S   rþ   rÿ   r/   )r  rµ  r“  r¶  r  r/   r/   r0   r  S  r  c                 S   rþ   rÿ   r/   )r  r·  r/  r0  r5  r/   r/   r0   r  T  r  ç»½×Ùß|Û=c                 S   rþ   rÿ   r/   )ZlogitsrÎ  Zhardr5  r  r/   r/   r0   r  U  r  c                 S   rþ   rÿ   r/   rÆ  r/   r/   r0   r  V  r  ç      ð¿c                 S   rþ   rÿ   r/   )r  Úmin_valÚmax_valr%  r/   r/   r0   r  W  r  c                 S   rþ   rÿ   r/   rÉ  r/   r/   r0   r  X  rF  c                 S   rþ   rÿ   r/   )r  r1  r2  r/  r0  rØ  r4  r5  r/   r/   r0   r  Z  rF  Únearestc                 S   rþ   rÿ   r/   )r  r  Zscale_factorr“  r  Zrecompute_scale_factorZ	antialiasr/   r/   r0   r  \  rF  c                 S   rþ   rÿ   r/   rã  r/   r/   r0   r  ^  r  c                 S   rþ   rÿ   r/   ©r  rB  rC  rD  rE  r/   r/   r0   r  _  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  `  r  ç{®Gáz„?c                 S   rþ   rÿ   r/   )r  Znegative_sloper%  r/   r/   r0   r  a  r  c                 S   rþ   rÿ   r/   )r  r/  r0  r/   r/   r0   r  b  r  ç-Cëâ6?ç      è?c                 S   rþ   rÿ   r/   )r  r  r  r  rä  r/   r/   r0   r  c  r  é   c                 S   rþ   rÿ   r/   ©r  r  Z_stacklevelr]   r/   r/   r0   r  d  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  e  r  c                 S   rþ   rÿ   r/   ©r  r�  r+  rÛ   r-  r/   r/   r0   r  f  r  c                 S   rþ   rÿ   r/   r)  r/   r/   r0   r  g  r  c                 S   rþ   rÿ   r/   r)  r/   r/   r0   r  h  r  c                 S   rþ   rÿ   r/   ro  r/   r/   r0   r  i  rF  c                 S   rþ   rÿ   r/   ©r  r+  rÛ   r,  rl  r-  rþ  r/   r/   r0   r  k  rF  c                 S   rþ   rÿ   r/   rý  r/   r/   r0   r  m  rF  c                 S   rþ   rÿ   r/   r*  r/   r/   r0   r  o  rF  c                 S   rþ   rÿ   r/   rý  r/   r/   r0   r  q  rF  c                 S   rþ   rÿ   r/   rý  r/   r/   r0   r  s  rF  c                 S   rþ   rÿ   r/   rý  r/   r/   r0   r  u  rF  c                 S   rþ   rÿ   r/   ©r  rÑ  r+  rÛ   r,  r  r/   r/   r0   r  w  r  c                 S   rþ   rÿ   r/   r+  r/   r/   r0   r  x  r  c                 S   rþ   rÿ   r/   r+  r/   r/   r0   r  y  r  c                 S   rþ   rÿ   r/   r#  r/   r/   r0   r  z  r  c                 S   rþ   rÿ   r/   )ÚqueryÚkeyr  Zembed_dim_to_checkZ	num_headsZin_proj_weightZin_proj_biasZbias_kZbias_vZadd_zero_attnÚ	dropout_pZout_proj_weightZout_proj_biasr3  Zkey_padding_maskZneed_weightsÚ	attn_maskZuse_separate_proj_weightZq_proj_weightZk_proj_weightZv_proj_weightZstatic_kZstatic_vZaverage_attn_weightsÚ	is_causalr/   r/   r0   r  |  s   c                 S   rþ   rÿ   r/   )r  rB  r#  rp  r/  rC  rD  rE  r/   r/   r0   r  €  rF  c                 S   rþ   rÿ   r/   r#  r/   r/   r0   r  ‚  rF  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  „  rF  c                 S   rþ   rÿ   r/   )r  rB  r/  rC  r  rD  rE  r/   r/   r0   r  †  rF  çê-�™—q=c                 S   rþ   rÿ   r/   )r  r#  r  r5  r  r/   r/   r0   r  ˆ  r  c                 S   rþ   rÿ   r/   )rW   Znum_classesr/   r/   r0   r  ‰  r  r•   c                 S   rþ   rÿ   r/   )r  rj  r“  r  r/   r/   r0   r  Š  r  c                 S   rþ   rÿ   r/   ©rQ  rR  r#  r5  r'  r/   r/   r0   r  ‹  r  c                 S   rþ   rÿ   r/   )r  rB  Ú	log_inputrx   rC  r5  rD  rE  r/   r/   r0   r  Œ  rF  c                 S   rþ   rÿ   r/   ©r  r/  r/   r/   r0   r  Ž  r  c                 S   rþ   rÿ   r/   ©r  r%  r/   r/   r0   r  �  r  c                 S   rþ   rÿ   r/   r5  r/   r/   r0   r  �  r  ç      À?çUUUUUUÕ?c                 S   rþ   rÿ   r/   ©r  ÚlowerrX  r3  r%  r/   r/   r0   r  ‘  r  c                 S   rþ   rÿ   r/   r5  r/   r/   r0   r  ’  r  c                 S   rþ   rÿ   r/   r5  r/   r/   r0   r  “  r  c                 S   rþ   rÿ   r/   r5  r/   r/   r0   r  ”  r  c                 S   rþ   rÿ   r/   )r,  r-  r  r/  r.  r/   r/   r0   r  •  r  c                 S   rþ   rÿ   r/   )r  rB  rC  rD  rE  r  r/   r/   r0   r  –  r  c                 S   rþ   rÿ   r/   )r  rB  rE  Údeltar/   r/   r0   r  —  r  c                 S   rþ   rÿ   r/   r#  r/   r/   r0   r  ˜  r  c                 S   rþ   rÿ   r/   r(  r/   r/   r0   r  ™  r  c                 S   rþ   rÿ   r/   r(  r/   r/   r0   r  š  r  é   c                 S   rþ   rÿ   r/   )r  r  Ú	thresholdr/   r/   r0   r  ›  r  c                 S   rþ   rÿ   r/   rÆ  r/   r/   r0   r  œ  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  �  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ž  r  c                 S   rþ   rÿ   r/   ©r  r<  r  r%  r/   r/   r0   r  Ÿ  r  c
           
      S   rþ   rÿ   r/   ©
ÚanchorÚpositiveÚnegativerp  r#  r5  ÚswaprC  rD  rE  r/   r/   r0   r     rF  )Údistance_functionrp  rB  rE  c                S   rþ   rÿ   r/   )r?  r@  rA  rC  rp  rB  rE  r/   r/   r0   r  ¢  r�  c                 S   rþ   rÿ   r/   )r  r+  rl  r,  rÛ   r/   r/   r0   r  ¥  r  c                 S   rþ   rÿ   r/   )rW   r¡  r¢  r=  r/   r/   r0   r  ¦  r  c                 S   rþ   rÿ   r/   )rW   r8  Ústdr=  r/   r/   r0   r  §  r  c                 S   rþ   rÿ   r/   )rW   Úvalr/   r/   r0   r  ¨  r  Úfan_inÚ
leaky_reluc                 S   rþ   rÿ   r/   )rW   r¡  r“  Znonlinearityr=  r/   r/   r0   r  ©  r  c                 S   rþ   rÿ   r/   )r  Zas_tupler/   r/   r0   r  ª  r  )r­  c                S   rþ   rÿ   r/   )r  r  r­  r/   r/   r0   r  «  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ¬  r  Úfroc                 S   rþ   rÿ   r/   ©r  r#  r  r'  r  r]   r/   r/   r0   r  ­  r  c                 S   rþ   rÿ   r/   ©r  ri  r  r'  r  r]   r/   r/   r0   r  ®  r  c                 S   rþ   rÿ   r/   rJ  r/   r/   r0   r  ¯  r  c                 S   rþ   rÿ   r/   rJ  r/   r/   r0   r  °  r  c                 S   rþ   rÿ   r/   )ÚvÚpowr  r/   r/   r0   r  ±  r  c                 S   rþ   rÿ   r/   rI  r/   r/   r0   r  ²  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ³  r  c                 S   rþ   rÿ   r/   rÍ  r/   r/   r0   r  ´  r  c                 S   rþ   rÿ   r/   )r  r@  Zinput3rù  Ú	transposer/   r/   r0   r  µ  r  c                 S   rþ   rÿ   r/   r2  r/   r/   r0   r  ¶  r  c                 S   rþ   rÿ   r/   ©rK  r  r/   r/   r0   r  ·  r  c                 S   rþ   rÿ   r/   )r  ÚqrÞ  rì  r/   r/   r0   r  ¸  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ¹  r  çVçž¯Ò<c                 S   rþ   rÿ   r/   )r  Úrcondr/   r/   r0   r  º  r  c                 S   rþ   rÿ   r/   )r  rQ  rå  r/   r/   r0   r  »  r  c                 S   rþ   rÿ   r/   )r  Zupscale_factorr/   r/   r0   r  ¼  r  c                 S   rþ   rÿ   r/   )r  Zdownscale_factorr/   r/   r0   r  ½  r  c                 S   rþ   rÿ   r/   )r  r=  r/   r/   r0   r  ¾  r  c                 S   rþ   rÿ   r/   )r  rB  r3  rx   r5  rE  r/   r/   r0   r  ¿  r  c                 S   rþ   rÿ   r/   rû  r/   r/   r0   r  À  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  Á  r  c                 S   rþ   rÿ   r/   r4  r/   r/   r0   r  Â  r  c                 S   rþ   rÿ   r/   r•  r/   r/   r0   r  Ã  r  c                 S   rþ   rÿ   r/   r«  r/   r/   r0   r  Ä  r  c                 S   rþ   rÿ   r/   )r  r]   r/   r/   r0   r  Å  r  c                 S   rþ   rÿ   r/   )r  r°  rÐ  rÒ  r/   r/   r0   r  Æ  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  Ç  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  È  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  É  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  Ê  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  Ë  r  c                 S   rþ   rÿ   r/   )r  Úsomer  r/   r/   r0   r  Ì  r  Úreducedc                 S   rþ   rÿ   r/   )r  r“  r  r/   r/   r0   r  Í  r  Úlinearc                 S   rþ   rÿ   r/   ©r  rO  r  r'  Úinterpolationr  r/   r/   r0   r  Î  r  c                 S   rþ   rÿ   r/   rU  r/   r/   r0   r  Ï  r  c                 S   rþ   rÿ   r/   )r  ÚscalesÚzero_pointsrš  r]   r/   r/   r0   r  Ð  r  c                 S   rþ   rÿ   r/   )r  r˜  r™  r]   r/   r/   r0   r  Ñ  r  c                 S   rþ   rÿ   r/   )r  r]   Zreduce_ranger/   r/   r0   r  Ò  r  c                 S   rþ   rÿ   r/   )r  r/  r0  r8  r  r5  Zoutput_scaleZoutput_zero_pointr/   r/   r0   r  Ó  r  c                 S   rþ   rÿ   r/   ©r  r¹  rÁ  rÂ  rÃ  rÄ  Z	packed_ihZ	packed_hhZcol_offsets_ihZcol_offsets_hhZscale_ihZscale_hhZzero_point_ihZzero_point_hhr/   r/   r0   r  Ô  rF  c                 S   rþ   rÿ   r/   rY  r/   r/   r0   r  ×  rF  )r   )r  c                 S   rþ   rÿ   r/   rü  r/   r/   r0   r  Ù  rF  )r   r   )r  r  c                 S   rþ   rÿ   r/   rü  r/   r/   r0   r  Û  rF  )r   r   r   )r  r  r  c                 S   rþ   rÿ   r/   rü  r/   r/   r0   r  Ý  rF  c                 S   rþ   rÿ   r/   rY  r/   r/   r0   r  ß  rF  c                 S   rþ   rÿ   r/   rY  r/   r/   r0   r  á  rF  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ã  r  c                 S   rþ   rÿ   r/   r•  r/   r/   r0   r  ä  r  c                 S   rþ   rÿ   r/   )r  Úhighr]   rk   r\   r–  r/   r/   r0   r  å  r  c                 S   rþ   rÿ   r/   r•  r/   r/   r0   r  æ  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ç  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  è  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  é  r  c                 S   rþ   rÿ   r/   rq  r/   r/   r0   r  ê  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ë  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ì  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  í  r  c                 S   rþ   rÿ   r/   r5  r/   r/   r0   r  î  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  ï  r  c                 S   rþ   rÿ   r/   )r  r#  r  Zmaxnormr  r/   r/   r0   r  ð  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ñ  r  c                 S   rþ   rÿ   r/   )r  Úshaper/   r/   r0   r  ò  r  c	           	      S   rþ   rÿ   r/   r¸  r/   r/   r0   r  ó  r  c                 S   rþ   rÿ   r/   rÀ  r/   r/   r0   r  ô  r  c	           	      S   rþ   rÿ   r/   r¸  r/   r/   r0   r  õ  r  c                 S   rþ   rÿ   r/   rÀ  r/   r/   r0   r  ö  r  c                 S   rþ   rÿ   r/   )r  Úshiftsrª  r/   r/   r0   r  ÷  r  ©r   r  c                 S   rþ   rÿ   r/   )r  rä  rª  r/   r/   r0   r  ø  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ù  r  c                 S   rþ   rÿ   r/   ra  r/   r/   r0   r  ú  r  c                 S   rþ   rÿ   r/   )r/  rö  Zcompressed_indices_dtyper/   r/   r0   r  û  r  c                 S   rþ   rÿ   r/   r8  r/   r/   r0   r  ü  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ý  r  c                 S   rþ   rÿ   r/   )r  r  r  r/   r/   r0   r  þ  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ÿ  r  c                 S   rþ   rÿ   r/   ©r  r  r°  rƒ  r/   r/   r0   r     r  c                 S   rþ   rÿ   r/   r^  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   )r  r  r°  rƒ  rD  Zinclude_selfr/   r/   r0   r    r  c                 S   rþ   rÿ   r/   )Zsorted_sequencer  rL  rM  r  r/   r/   r0   r    r  r`  c                 S   rþ   rÿ   r/   )rñ  rD  ZlengthsrÑ  r’  rš  Úunsafer/   r/   r0   r    r  c                 S   rþ   rÿ   r/   )r  r  r°  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   )r  rƒ  r  r°  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ©r  rƒ  r  r	  rê  Ústepr/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r`  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r5  r/   r/   r0   r  	  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  
  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r†  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r†  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   rï  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   )ró  rè  rù  r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   )ró  rè  rù  rZ  r  r/   r/   r0   r    r  )Ústabler  c                S   rþ   rÿ   r/   )r  r  r  rb  r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ©rW   Zsplit_size_or_sectionsr  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   rc  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   rt  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   rN  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r     r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  !  r  Úreflectc
           
      S   rþ   rÿ   r/   )
r  rÚ  rÛ  rÜ  rÝ  rÞ  Úpad_moderß  rà  râ  r/   r/   r0   r  "  rF  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  $  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  %  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  &  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  '  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  (  r  c                 S   rþ   rÿ   r/   ©r¡  r¢  r/   r/   r0   r  )  r  c                 S   rþ   rÿ   r/   rf  r/   r/   r0   r  *  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  +  r  c                 S   rþ   rÿ   r/   )r¡  r¢  Úcr/   r/   r0   r  ,  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  -  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  .  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  /  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  0  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  1  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  2  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  3  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  4  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  5  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  6  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  7  r  c                 S   rþ   rÿ   r/   )r  rR  Ú
compute_uvr  r/   r/   r0   r  8  r  é   c                 S   rþ   rÿ   r/   )r  rO  rì  ÚMr/   r/   r0   r  9  r  c                 S   rþ   rÿ   r/   )r  Úfull_matricesr  r/   r/   r0   r  :  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ;  r  c                 S   rþ   rÿ   r/   ©r  Údim0r€  r/   r/   r0   r  <  r  c                 S   rþ   rÿ   r/   )r  Zaxis0Úaxis1r/   r/   r0   r  =  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  >  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ?  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  @  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  A  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  B  r  c                 S   rþ   rÿ   r/   rû  r/   r/   r0   r  C  r  c                 S   rþ   rÿ   r/   rû  r/   r/   r0   r  D  r  c                 S   rþ   rÿ   r/   rû  r/   r/   r0   r  E  r  c                 S   rþ   rÿ   r/   rû  r/   r/   r0   r  F  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  G  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  H  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  I  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  J  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  K  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  L  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  M  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  N  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  O  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  P  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  Q  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  R  r  c                 S   rþ   rÿ   r/   rû  r/   r/   r0   r  S  r  c                 S   rþ   rÿ   r/   rû  r/   r/   r0   r  T  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  U  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  V  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  W  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  X  r  c                 S   rþ   rÿ   r/   rû  r/   r/   r0   r  Y  r  c                 S   rþ   rÿ   r/   rû  r/   r/   r0   r  Z  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  [  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  \  r  c                 S   rþ   rÿ   r/   rï  r/   r/   r0   r  ]  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ^  r  c                 S   rþ   rÿ   r/   r&  r/   r/   r0   r  _  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  `  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  a  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  b  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  c  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  d  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  e  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  f  r  c                 S   rþ   rÿ   r/   rû  r/   r/   r0   r  g  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  h  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  i  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  j  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  k  r  c                 S   rþ   rÿ   r/   rû  r/   r/   r0   r  l  r  c                 S   rþ   rÿ   r/   rû  r/   r/   r0   r  m  r  c                 S   rþ   rÿ   r/   rû  r/   r/   r0   r  n  r  c                 S   rþ   rÿ   r/   rû  r/   r/   r0   r  o  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  p  r  c                 S   rþ   rÿ   r/   rï  r/   r/   r0   r  q  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  r  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  s  r  c                 S   rþ   rÿ   r/   r
  r/   r/   r0   r  t  r  c                 S   rþ   rÿ   r/   )rK  r  r  r/   r/   r0   r  u  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  v  r  c                 S   rþ   rÿ   r/   )r  r°  r/   r/   r0   r  w  r  c                 S   rþ   rÿ   r/   )r  rÑ  r  r  r/   r/   r0   r  x  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  y  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  z  r  c                 S   rþ   rÿ   r/   )r¡  Úindr/   r/   r0   r  {  r  c                 S   rþ   rÿ   r/   )r¡  r¢  rª  r/   r/   r0   r  |  r  c                 S   rþ   rÿ   r/   )r¡  r¢  rª  r  r/   r/   r0   r  }  r  c                 S   rþ   rÿ   r/   )r  rˆ  r  r/   r/   r0   r  ~  r  c                 S   rþ   rÿ   r/   r=  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   r©  r/   r/   r0   r  €  r  c                 S   rþ   rÿ   r/   )r  rä  r  r  r  r/   r/   r0   r  �  r  c                 S   rþ   rÿ   r/   r	  r/   r/   r0   r  ‚  r  c                 S   rþ   rÿ   r/   rl  r/   r/   r0   r  ƒ  r  c                 S   rþ   rÿ   r/   rv  r/   r/   r0   r  „  r  c                 S   rþ   rÿ   r/   rv  r/   r/   r0   r  …  r  c                 S   rþ   rÿ   r/   )r  ró  rX  rM  Úunitriangularr/   r/   r0   r  †  r  c                 S   rþ   rÿ   r/   )r  rè  rX  rù  rp  r/   r/   r0   r  ‡  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ˆ  r  c
           
      S   rþ   rÿ   r/   r>  r/   r/   r0   r  ‰  r�  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  Œ  r  c                 S   rþ   rÿ   r/   r—  r/   r/   r0   r  �  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  Ž  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  �  r  c                 S   rþ   rÿ   r/   )r  r  Úsizesrð  r/   r/   r0   r  �  r  c                 S   rþ   rÿ   r/   )r  ÚsortedÚreturn_inverseÚreturn_countsr  r/   r/   r0   r  ‘  r  c                 S   rþ   rÿ   r/   )r  rs  rt  r  r/   r/   r0   r  ’  r  c                 S   rþ   rÿ   r/   )rÑ  r[  r/   r/   r0   r  “  r  c                 S   rþ   rÿ   r/   r\  r/   r/   r0   r  ”  r  c                 S   rþ   rÿ   r/   rc  r/   r/   r0   r  •  r  c                 S   rþ   rÿ   r/   rc  r/   r/   r0   r  –  r  c                 S   rþ   rÿ   r/   rt  r/   r/   r0   r  —  r  c                 S   rþ   rÿ   r/   )rx  r  r/   r/   r0   r  ˜  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  ™  r  c                 S   rþ   rÿ   r/   r  r/   r/   r0   r  š  r  c                 S   rþ   rÿ   r/   r‡  r/   r/   r0   r  ›  r  c                 S   rþ   rÿ   r/   ra  r/   r/   r0   r  œ  r  c                 S   rþ   rÿ   r/   )Ú	conditionrx  rw  r/   r/   r0   r  �  r  c                 S   rþ   rÿ   r/   r•  r/   r/   r0   r  ž  r  c                 S   rþ   rÿ   r/   )rK  Úlevelr/   r/   r0   r  Ÿ  r  c                 S   rþ   rÿ   r/   )ÚprimalÚtangentrv  r/   r/   r0   r     r  c                 S   rþ   rÿ   r/   ©rK  r/   r/   r0   r  ¡  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ¢  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  £  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ¤  r  c                 S   rþ   rÿ   r/   )rK  r  rÛ   r„  r/   r/   r0   r  ¥  r  c                 S   rþ   rÿ   r/   rJ  r/   r/   r0   r  ¦  r  c                 S   rþ   rÿ   r/   )rK  r{  r€  r�  r/   r/   r0   r  §  r  )Úimplicitc                S   rþ   rÿ   r/   )rK  r  rz  r/   r/   r0   r  ¨  r  c                 S   rþ   rÿ   r/   )rK  r  r	  rá  r/   r/   r0   r  ©  r  c                 S   rþ   rÿ   r/   )rK  rª  r/   r/   r0   r  ª  r  c                 S   rþ   rÿ   r/   ©rK  r  rÛ   r/   r/   r0   r  «  r  c                 S   rþ   rÿ   r/   )rK  r  r°  r/   r/   r0   r  ¬  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ­  r  c                 S   rþ   rÿ   r/   )rK  r  r	  rê  ra  r/   r/   r0   r  ®  r  c                 S   rþ   rÿ   r/   )rK  Ú
split_sizer  r/   r/   r0   r  ¯  r  c                 S   rþ   rÿ   r/   )rK  Zsplit_sizesr  r/   r/   r0   r  °  r  c                 S   rþ   rÿ   r/   rN  r/   r/   r0   r  ±  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ²  r  c                 S   rþ   rÿ   r/   )rK  rm  r€  r/   r/   r0   r  ³  r  c                 S   rþ   rÿ   r/   rN  r/   r/   r0   r  ´  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  µ  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ¶  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ·  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ¸  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ¹  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  º  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  »  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ¼  r  c                 S   rþ   rÿ   r/   rN  r/   r/   r0   r  ½  r  c                 S   rþ   rÿ   r/   ©rK  r]   r/   r/   r0   r  ¾  r  c                 S   rþ   rÿ   r/   ©rK  Ú	dimensionr  ra  r/   r/   r0   r  ¿  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  À  r  c                 S   rþ   rÿ   r/   ©rK  r  r/   r/   r0   r  Á  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  Â  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  Ã  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  Ä  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  Å  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  Æ  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  Ç  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  È  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  É  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  Ê  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  Ë  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  Ì  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  Í  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  Î  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  Ï  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  Ð  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  Ñ  r  c                 S   rþ   rÿ   r/   r}  r/   r/   r0   r  Ò  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  Ó  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  Ô  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  Õ  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  Ö  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  ×  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  Ø  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  Ù  r  c                 S   rþ   rÿ   r/   )rK  Úarrayr/   r/   r0   r  Ú  r  c                 S   rþ   rÿ   r/   )rK  Úidxr/   r/   r0   r  Û  r  c                 S   rþ   rÿ   r/   )rK  Úmemor/   r/   r0   r  Ü  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  Ý  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  Þ  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ß  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  à  r  c                 S   rþ   rÿ   r/   )rK  Úformat_specr/   r/   r0   r  á  r  c                 S   rþ   rÿ   r/   )rK  Úprotor/   r/   r0   r  â  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ã  r  )Útensor_contentsc                S   rþ   rÿ   r/   )rK  r†  r/   r/   r0   r  ä  r  c                 S   rþ   rÿ   r/   )rK  rä  rK  r/   r/   r0   r  å  r  c                 S   rþ   rÿ   r/   )rK  Údr/   r/   r0   r  æ  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ç  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  è  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  é  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ê  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ë  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ì  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  í  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  î  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ï  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ð  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ñ  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ò  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ó  r  c                 S   rþ   rÿ   r/   )rK  Úcuda_enabledÚcpu_enabledZ
cuda_dtypeZ	cpu_dtyper/   r/   r0   r  ô  r  c                 S   rþ   rÿ   r/   )rK  rˆ  r‰  r/   r/   r0   r  õ  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ö  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ÷  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ø  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ù  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ú  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  û  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ü  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ý  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  þ  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ÿ  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r     r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  	  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  
  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 [   rþ   rÿ   r/   )rK  r]   Únon_blockingr-   r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r     r  c                 S   rþ   rÿ   r/   )rK  rð  r%  r/   r/   r0   r  !  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  "  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  #  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  $  r  c                 S   rþ   rÿ   r/   )rK  ÚorderÚellipsis_idxr/   r/   r0   r  %  r  c                 S   rþ   rÿ   r/   )rK  Úcallabler/   r/   r0   r  &  r  c                 S   rþ   rÿ   r/   r{  r/   r/   r0   r  '  r  c                 S   rþ   rÿ   r/   r{  r/   r/   r0   r  (  r  c                 S   rþ   rÿ   r/   )rK  ÚgradientÚretain_graphÚcreate_graphr  r/   r/   r0   r  )  r  c                 S   rþ   rÿ   r/   ©rK  rd   r/   r/   r0   r  *  r  c                 S   rþ   rÿ   r/   r‘  r/   r/   r0   r  +  r  c                 S   rþ   rÿ   r/   r‘  r/   r/   r0   r  ,  r  c                 S   rþ   rÿ   r/   r‘  r/   r/   r0   r  -  r  )r=  c                S   rþ   rÿ   r/   )rK  ÚmedianÚsigmar=  r/   r/   r0   r  .  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  /  r  c                 S   rþ   rÿ   r/   )rK  Z	coalescedr/   r/   r0   r  0  r  c                 S   rþ   rÿ   r/   r‘  r/   r/   r0   r  1  r  c                 S   rþ   rÿ   r/   )rK  rƒ  rŠ  r/   r/   r0   r  2  r  c                 S   rþ   rÿ   r/   r‘  r/   r/   r0   r  3  r  c                 S   rþ   rÿ   r/   r‘  r/   r/   r0   r  4  r  c                 S   rþ   rÿ   r/   r‘  r/   r/   r0   r  5  r  c                 S   rþ   rÿ   r/   r‘  r/   r/   r0   r  6  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  7  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  8  r  c                 S   rþ   rÿ   r/   )rK  rƒ  r{  r€  r�  r/   r/   r0   r  9  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  :  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ;  r  c                 S   rþ   rÿ   r/   r‘  r/   r/   r0   r  <  r  c                 S   rþ   rÿ   r/   r‘  r/   r/   r0   r  =  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  >  r  c                 S   rþ   rÿ   r/   rJ  r/   r/   r0   r  ?  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  @  r  c                S   rþ   rÿ   r/   )rK  rÇ  r=  r/   r/   r0   r  A  r  c                 S   rþ   rÿ   r/   ©rK  r  r/   r/   r0   r  B  r  c                 S   rþ   rÿ   r/   r”  r/   r/   r0   r  C  r  c                 S   rþ   rÿ   r/   r‘  r/   r/   r0   r  D  r  c                 S   rþ   rÿ   r/   r‘  r/   r/   r0   r  E  r  c                S   rþ   rÿ   r/   )rK  r#  r=  r/   r/   r0   r  F  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  G  r  c                 S   rþ   rÿ   r/   r‘  r/   r/   r0   r  H  r  c                 S   rþ   rÿ   r/   r‘  r/   r/   r0   r  I  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  J  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  K  r  c                 S   rþ   rÿ   r/   r‘  r/   r/   r0   r  L  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  M  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  N  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  O  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  P  r  c                 S   rþ   rÿ   r/   )rK  rW   r/   r/   r0   r  Q  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  R  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  S  r  c                S   rþ   rÿ   r/   )rK  r8  rD  r=  r/   r/   r0   r  T  r  c                 S   rþ   rÿ   r/   rN  r/   r/   r0   r  U  r  c                 S   rþ   rÿ   r/   r‘  r/   r/   r0   r  V  r  c                 S   rþ   rÿ   r/   )rK  rW   r�  r/   r/   r0   r  W  r  c                 S   rþ   rÿ   r/   )rK  rx  rw  r�  r/   r/   r0   r  X  r  c                 S   rþ   rÿ   r/   )rK  r  r/   r/   r0   r  Y  r  c                 S   rþ   rÿ   r/   )rK  r  Úassignr/   r/   r0   r  Z  r  c                 S   rþ   rÿ   r/   )rK  r  r	  rá  r/   r/   r0   r  [  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  \  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ]  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ^  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  _  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  `  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  a  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  b  r  c                 S   rþ   rÿ   r/   rN  r/   r/   r0   r  c  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  d  r  c                 S   rþ   rÿ   r/   )rK  rÑ  rW   rÒ  r/   r/   r0   r  e  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  f  r  c                S   rþ   rÿ   r/   )rK  Úfrom_Útor=  r/   r/   r0   r  g  r  c                 S   rþ   rÿ   r/   ©rK  Ústreamr/   r/   r0   r  h  r  c                 S   rþ   rÿ   r/   )rK  rð  r/   r/   r0   r  i  r  c                 S   rþ   rÿ   r/   ©rK  Úhookr/   r/   r0   r  j  r  c                 S   rþ   rÿ   r/   rš  r/   r/   r0   r  k  r  c                 S   rþ   rÿ   r/   )rK  Únamer/   r/   r0   r  l  r  c                 W   rþ   rÿ   r/   rJ  r/   r/   r0   r  m  r  c                 S   rþ   rÿ   r/   )rK  r–  r/   r/   r0   r  n  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  o  r  c                 W   rþ   rÿ   r/   rJ  r/   r/   r0   r  p  r  c                 S   rþ   rÿ   r/   rJ  r/   r/   r0   r  q  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  r  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  s  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  t  r  c                 S   rþ   rÿ   r/   )rK  rÐ  r„  r  rÛ   r/   r/   r0   r  u  r  c                 S   rþ   rÿ   r/   )rK  rƒ  r  r°  r/   r/   r0   r  v  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  w  r  c                 S   rþ   rÿ   r/   r‘  r/   r/   r0   r  x  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  y  r  c                 S   rþ   rÿ   r/   )rK  rƒ  r  r	  rê  ra  r/   r/   r0   r  z  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  {  r  c                 S   rþ   rÿ   r/   )rK  rö  r/   r/   r0   r  |  r  c                 S   rþ   rÿ   r/   )rK  rö  Zaccumulate_matchesr/   r/   r0   r  }  r  c                 S   rþ   rÿ   r/   ©rK  Zsize1Zsize2Ú	dense_dimr/   r/   r0   r  ~  r  c                 S   rþ   rÿ   r/   r�  r/   r/   r0   r    r  c                 S   rþ   rÿ   r/   )rK  r  r  r  r  r  r/   r/   r0   r  €  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  �  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ‚  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ƒ  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  „  r  c                 S   rþ   rÿ   r/   rJ  r/   r/   r0   r  …  r  c                 W   rþ   rÿ   r/   )rK  Úrepsr/   r/   r0   r  †  r  c                 S   rþ   rÿ   r/   )rK  r]   rŠ  Úcopyrd   r/   r/   r0   r  ‡  r  )Úmasked_gradc                S   rþ   rÿ   r/   ©rK  r]   r¡  r/   r/   r0   r  ˆ  r  c                 S   rþ   rÿ   r/   r¢  r/   r/   r0   r  ‰  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  Š  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  ‹  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  Œ  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  �  r  c                 S   rþ   rÿ   r/   r~  r/   r/   r0   r  Ž  r  c                 S   rþ   rÿ   r/   )rK  r–  r—  r/   r/   r0   r  �  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  �  r  c                 S   rþ   rÿ   r/   )rK  r[  r/   r/   r0   r  ‘  r  c                 S   rþ   rÿ   r/   r€  r/   r/   r0   r  ’  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  “  r  c                 S   rþ   rÿ   r/   r˜  r/   r/   r0   r  ”  r  c                 S   rþ   rÿ   r/   ry  r/   r/   r0   r  •  r  c                 S   rþ   rÿ   r/   )rK  r¢  r½   Zdriverr/   r/   r0   r  –  r  Ú_Ú__Z__iZ__rZbitwise_©N)r  r  N)r  N)r  r  F)F)NFN)Nr   FT)NN)NNNr8  N)Nr   )FFN)r   N)rO  rP  )rS  F)FN)NNN)r  NN)rd  F)Nr  r   r  r  )Nr  r   r   r  r  )r   NNr8  )r  r  )r   N)r   r8  Frÿ   )r  r   NNN)r   r   r  )r   r‚  r   )rd  )r‰  N)NNrO  FF)Nrd  Fr8  FNN)NNNF)FF)Nr   N)Nr¦  N)r   r   )TT)NF)NNr  )NNr  T)rÅ  )rS  NNr8  )rÊ  r   r   N)rÊ  NNNFN)NNF)T)NNNTFNNF)NNr8  F)NNNNNNNNNNNNN)TFN)TN)Nr   r  F)Nr   r  FF)NFNN)r   FN)r
  NNN)NNr  )rd  NFN)rÅ  FF)Nr   FTN)NNFr  r  )NNNr8  )NNr  Nr8  r
  )rÅ  TF)	NNrd  Fr8  FNFN)r  r   r  )NNFN)Fr  r8  )r  )r   )r  r‹   N)r  Fr  r   )r  rS  F)NNNNTr  r  )NNr"  NNF)NNr8  )r$  F)r%  r&  rS  )Nr'  N)Nr   N)TNTNFNNNNNNF)r  rS  NNNr8  )NNr  Nr8  )rd  r  r1  N)r•   r   )rO  r  F)TFNr  Nr8  )r6  r7  FF)Nr
  )NNr8  rS  )r8  rS  )r  r;  )rS  rd  r  FNNr8  )r
  rS  N)r   rF  rG  N)rH  NFNN)NNFNN)rd  NFNN)rH  r¦  FNN)rd  r   )TF)NTrd  )rP  )rP  F)rS  N)NFrT  N)r  r]  )r`  NNNr   F)r   NNr  )r   F)NNNTrd  FTN)TTN)ri  rd  N)rd  N)TFF)TFFN)r  rd  )Nr   NN(~  r    r3   rh  ÚabsoluteZadaptive_avg_pool1dZadaptive_max_pool1dÚacosrú  ÚarccosÚacoshÚarccoshÚaddÚaddbmmÚaddcdivÚaddcmulÚaddmmÚaddmvÚaddrZaffine_grid_generatorÚallÚallcloseZalpha_dropoutÚamaxÚaminÚaminmaxÚangleÚanyÚargmaxÚargminÚargsortÚasinZ_assert_asyncÚarcsinÚasinhÚarcsinhÚatanÚarctanÚatan2Úarctan2ÚatanhÚarctanhÚ
atleast_1dÚ
atleast_2dÚ
atleast_3dZ
avg_pool1dÚbaddbmmZ
batch_normZbatch_norm_backward_elemtZbatch_norm_backward_reduceZbatch_norm_elemtZbatch_norm_gather_statsZ#batch_norm_gather_stats_with_countsZbatch_norm_statsZbatch_norm_update_statsÚ	bernoullir  Z binary_cross_entropy_with_logitsÚbincountÚbinomialÚbitwise_andÚbitwise_notÚ
bitwise_orÚbitwise_xorÚbitwise_left_shiftÚbitwise_right_shiftZ
block_diagÚbmmZbroadcast_tensorsÚbroadcast_toZ	bucketizeZcartesian_prodÚcatÚconcatÚconcatenateZcdistÚceilZceluZchain_matmulZchannel_shuffleÚcholeskyÚlinalgZcholesky_exÚcholesky_inverseÚcholesky_solveZchoose_qparams_optimizedÚchunkÚclampÚclipÚ	clamp_minÚ	clamp_maxÚcolumn_stackÚcovÚcloneÚcombinationsÚcomplexÚcopysignZpolarr½   ÚconjÚconj_physicalÚresolve_conjÚresolve_negZconstant_pad_ndZconv1dZconv2dZconv3dZconvolutionZconv_tbcZconv_transpose1dZconv_transpose2dZconv_transpose3dÚcorrcoefÚcosZcosine_embedding_lossÚcoshZcosine_similarityÚcount_nonzeroÚcrossZctc_lossÚcummaxÚcumminÚcumprodÚcumsumZcumulative_trapezoidÚlogcumsumexpÚdeg2radÚ
dequantizeÚdetÚdetachÚdiagÚ
diag_embedÚdiagflatÚdiffrz  Údiagonal_scatterÚas_strided_scatterÚdigammaÚdistÚdivÚdivideÚdotr½  ZdsmmZhsmmÚdsplitÚdstackrÏ   ÚeigvalsÚeighÚeigvalshÚeinsumZ	embeddingZembedding_bagÚ
empty_likeÚeqÚequalÚerfÚerfcÚerfinvÚexpÚexp2Úexpm1Z fake_quantize_per_channel_affineZfake_quantize_per_tensor_affineZfused_moving_avg_obs_fake_quantZfbgemm_linear_fp16_weightZ)fbgemm_linear_fp16_weight_fp32_activationZfbgemm_linear_int8_weightZ)fbgemm_linear_int8_weight_fp32_activationZfbgemm_linear_quantize_weightZfbgemm_pack_gemm_matrix_fp16Zfbgemm_pack_quantized_matrixZfeature_alpha_dropoutZfeature_dropoutru   ÚifftÚrfftÚirfftÚhfftÚihfftZhfft2Zihfft2ZhfftnZihfftnÚfftnÚifftnÚrfftnÚirfftnÚfft2Úifft2Úrfft2Úirfft2ÚfftshiftÚ	ifftshiftÚfixÚflattenÚflipÚfliplrÚflipudZfrobenius_normÚfloorÚfloor_divideÚfloat_powerÚfmodÚfracÚfrexpÚ	full_likeÚstridedZ_functional_assert_asyncÚ	lu_unpackÚgatherÚgcdÚgeÚgreater_equalÚgeqrfÚi0ÚinnerÚouterÚgerrŽ  Zgrid_samplerZgrid_sampler_2dZgrid_sampler_3dZ
group_normZgruZgru_cellÚgtÚgreaterÚ
hardshrinkÚ	heavisideZhinge_embedding_lossÚhistcÚ	histogramÚhistogramddZhouseholder_productZhspmmÚhsplitÚhstackÚhypotÚigammaÚigammacrg  Ú	index_addÚ
index_copyÚ	index_putÚindex_selectÚ
index_fillÚindex_reduceÚisfiniteÚisinÚisinfÚisrealÚisposinfÚisneginfZinstance_normÚint_reprÚinverseÚinvZinv_exÚ
is_complexÚis_conjÚis_negÚis_distributedÚis_inferenceÚis_floating_pointÚ
is_nonzeroÚis_same_sizeÚ	is_signedÚiscloseÚisnanÚistftZkl_divÚkronÚkthvalueZldl_factor_exZ
ldl_factorZ	ldl_solveZ
layer_normÚlcmÚldexpÚleÚ
less_equalÚlerpÚlgammaÚlobpcgÚlogÚlog_softmaxÚlog10Úlog1pÚlog2Ú	logaddexpÚ
logaddexp2ÚlogdetÚxlogyÚlogical_andÚlogical_notÚ
logical_orÚlogical_xorÚlogitÚ	logsumexpZlstmZ	lstm_cellÚltÚlessÚluÚlu_solveZmargin_ranking_lossÚmasked_fillÚmasked_scatterÚmasked_selectÚmatmulZ	lu_factorZlu_factor_exÚmatrix_powerÚmatrix_rankÚ	multi_dotÚ
matrix_expr`  ÚmaximumÚfmaxZ
max_pool1dZ
max_pool2dZ
max_pool3dZmax_pool1d_with_indicesr8  Únanmeanr’  Ú	nanmedianÚmeshgridr_  ÚminimumÚfminZmiopen_batch_normZmiopen_convolutionZmiopen_convolution_add_reluZmiopen_convolution_reluZmiopen_convolution_transposeZmiopen_depthwise_convolutionZ
miopen_rnnÚmmr“  ÚmovedimÚmoveaxisÚmsortÚmulÚmultiplyÚmultinomialÚmvÚmvlgammaÚnarrowÚ
nan_to_numZnative_batch_normZ_native_batch_norm_legitZnative_dropoutZnative_layer_normZnative_group_normZnative_normZnative_channel_shuffleÚneÚ	not_equalÚnegrA  Ú	nextafterrŒ   r�   Úadaptive_avg_pool2dÚadaptive_avg_pool3dZ adaptive_max_pool1d_with_indicesÚadaptive_max_pool2dZ adaptive_max_pool2d_with_indicesÚadaptive_max_pool3dZ adaptive_max_pool3d_with_indicesZaffine_gridÚ
avg_pool2dÚ
avg_pool3dÚbinary_cross_entropyZcross_entropyZ	dropout1dZ	dropout2dZ	dropout3dÚeluÚfoldÚfractional_max_pool2dZ"fractional_max_pool2d_with_indicesÚfractional_max_pool3dZ"fractional_max_pool3d_with_indicesZgaussian_nll_lossÚgeluÚgluZgrid_sampleZgumbel_softmaxÚhardtanhÚinterpolateÚl1_lossrG  rT  Zlocal_response_normZ
logsigmoidZ	lp_pool1dZ	lp_pool2dZ	lp_pool3dÚmax_pool2d_with_indicesÚmax_pool3d_with_indicesZmax_unpool1dÚmax_unpool2dÚmax_unpool3dÚmse_lossZmulti_head_attention_forwardÚmulti_margin_lossÚmultilabel_margin_lossZmultilabel_soft_margin_lossÚnll_lossÚ	normalizeÚone_hotrj  Zpairwise_distanceZpoisson_nll_lossÚpreluÚreluÚrelu6ZrreluZseluÚsiluÚmishÚscaled_dot_product_attentionÚsmooth_l1_lossÚ
huber_lossÚsoft_margin_lossÚsoftmaxZsoftminÚsoftplusÚ
softshrinkZsoftsignZ
tanhshrinkr<  Ztriplet_margin_lossZ!triplet_margin_with_distance_lossÚunfoldr“   Úuniform_Únormal_Z	constant_Zkaiming_uniform_ÚnonzeroÚnonzero_staticÚargwherer¥  Zvector_normZmatrix_normZnorm_except_dimZnuclear_normr[  ÚorgqrÚormqrÚpermuteZpca_lowrankZpdistÚpinverseÚpinvZpixel_shuffleZpixel_unshuffleÚpoissonÚ	polygammar@  Ú	ones_likerL  ÚprodÚputÚq_per_channel_axisÚq_per_channel_scalesÚq_per_channel_zero_pointsÚq_scaleÚq_zero_pointÚqrÚquantileÚnanquantileZquantize_per_channelZquantize_per_tensorZquantize_per_tensor_dynamicZquantized_batch_normZquantized_gru_cellZquantized_lstm_cellZquantized_max_pool1dÚtupleZquantized_max_pool2dZquantized_max_pool3dZquantized_rnn_relu_cellZquantized_rnn_tanh_cellÚrad2degZ	rand_likeZrandint_likeZ
randn_likeÚravelrf  ÚvdotZvecdotÚview_as_realZview_as_complexÚ
reciprocalÚ	remainderÚrenormÚrepeat_interleaveÚreshapeZrnn_reluZrnn_relu_cellZrnn_tanhZrnn_tanh_cellÚrollÚrot90ÚroundÚ	row_stackZ_rowwise_pruneÚrsqrtÚrsubZsaddmmÚscatterÚscatter_addÚscatter_reduceÚsearchsortedÚ_segment_reduceÚselectÚselect_scatterÚslice_inverseÚslice_scatterr�   ÚsignÚsignbitÚsgnÚsinÚsincÚsinhÚslogdetÚsmmZspmmrÙ   Zsolve_exÚsortÚsplitÚsplit_with_sizesÚsqrtÚsquareÚsqueezeÚsspaddmmÚstackrD  Zstd_meanÚstftÚsubÚsubtractÚsumÚ	sym_floatÚsym_intÚsym_maxÚsym_minÚsym_notÚsym_iteÚ	_sym_sqrtÚ_sym_cosÚ	_sym_coshÚ_sym_sinÚ	_sym_sinhÚ_sym_tanÚ	_sym_tanhÚ	_sym_asinÚ	_sym_acosÚ	_sym_atanÚnansumÚsvdZsvd_lowrankZsvdvalsÚswapaxesÚswapdimsÚspecialZairy_aiZ	bessel_j0Z	bessel_j1Z	bessel_y0Z	bessel_y1Zchebyshev_polynomial_tZchebyshev_polynomial_uZchebyshev_polynomial_vZchebyshev_polynomial_wZentrZerfcxZexpitZgammaincZ	gammainccZgammalnZhermite_polynomial_hZhermite_polynomial_heZi0eÚi1Zi1eZlaguerre_polynomial_lZlegendre_polynomial_pZlog_ndtrZmodified_bessel_i0Zmodified_bessel_i1Zmodified_bessel_k0Zmodified_bessel_k1ZmultigammalnZndtrZndtriZpsiZscaled_modified_bessel_k0Zscaled_modified_bessel_k1Zshifted_chebyshev_polynomial_tZshifted_chebyshev_polynomial_uZshifted_chebyshev_polynomial_vZshifted_chebyshev_polynomial_wZspherical_bessel_j0Zxlog1pyZzetaÚtÚtakeÚtake_along_dimÚtanr’   Ú	tensorinvÚtensorsolveÚ	tensordotÚtensor_splitÚtileÚtopkÚtracerM  ÚtrapzZ	trapezoidÚtriangular_solveZsolve_triangularÚtrilÚtriuÚtrue_divideÚtruncÚunbindrÜ   ÚuniqueÚunique_consecutiveÚunravel_indexÚunsafe_chunkÚunsafe_splitÚunsafe_split_with_sizesÚ	unsqueezerŠ   r  Zvar_meanÚvsplitÚvstackÚwhereÚ
zeros_likeZ_fw_primal_copyZ_make_dual_copyZview_as_real_copyZview_as_complex_copyZ
_conj_copyZ_neg_view_copyZas_strided_copyZ_sparse_broadcast_to_copyZdiagonal_copyZexpand_copyÚnarrow_copyZpermute_copyZ_reshape_alias_copyZselect_copyZdetach_copyZ
slice_copyZ
split_copyZsplit_with_sizes_copyZsqueeze_copyZt_copyZtranspose_copyZunsqueeze_copyZ_indices_copyZ_values_copyZindices_copyZvalues_copyZcrow_indices_copyZcol_indices_copyZccol_indices_copyZrow_indices_copyZunbind_copyÚ	view_copyZunfold_copyZ
alias_copyÚ__floordiv__Ú__rfloordiv__Ú__ifloordiv__Ú__truediv__Ú__rtruediv__Ú__itruediv__Ú
__lshift__Ú__rlshift__Ú__ilshift__Ú
__rshift__Ú__rrshift__Ú__irshift__Ú__and__Ú__or__Ú__xor__Ú	__float__Ú__complex__Ú	__array__Ú__bool__Ú__contains__Ú__neg__Ú
__invert__Ú__mod__Ú__rmod__Ú__imod__Ú__array_wrap__Ú__getitem__Ú__deepcopy__Ú__int__Ú__long__Ú	__index__Ú__len__Ú
__format__Ú__reduce_ex__Ú__reversed__Ú__repr__Ú__setitem__Ú__setstate__ÚTrï   ÚHÚmTÚmHÚ_backward_hooksÚ_post_accumulate_grad_hooksrú   Ú_cdatarû   rü   Ú_grad_fnÚgrad_fnÚ_versionÚ_autocast_to_reduced_precisionÚ_autocast_to_full_precisionrñ  r\   r]   Úis_cudaÚis_cpuÚis_xlaÚis_xpuÚis_ipuÚis_leafÚretains_gradÚis_metaÚis_mpsÚis_mtiaÚ	is_nestedÚis_ortÚ	is_mkldnnÚis_quantizedÚ	is_sparseÚis_sparse_csrÚ	is_vulkanÚitemsizerk   rœ  rð  ÚnbytesÚndimÚ	output_nrr–  r[  ÚvolatileÚ__cuda_array_interface__ÚtypeÚ_dimIÚ_dimVÚ_indicesÚ_is_viewÚ_nnzÚcrow_indicesÚcol_indicesÚccol_indicesÚrow_indicesÚ_update_namesÚ_valuesÚalign_asÚalign_toÚapply_rm   Úas_strided_ÚbackwardÚbfloat16Zpreserve_formatÚboolÚbyteÚcharÚcauchy_ÚcoalesceÚ_coalesced_Ú
contiguousÚcontiguous_formatÚcopy_ÚcpuÚcudaÚxpuÚipuÚdata_ptrrž  r  Ú	dim_orderÚdoubleÚcdoubleÚelement_sizeÚexpandÚ	expand_asÚexponential_Úfill_Úfill_diagonal_ÚfloatÚcfloatÚ
geometric_rV   ÚhalfÚchalfÚ	has_namesrÑ  ÚintÚis_coalescedÚis_contiguousÚ	is_pinnedÚ	is_set_toÚ	is_sharedÚitemÚlog_normal_ÚlongÚmap_Úmap2_Úmodule_loadÚ
ndimensionÚnelementÚ_nested_tensor_sizeÚ_nested_tensor_storage_offsetsÚ_nested_tensor_stridesÚnumpyÚ
pin_memoryÚput_re   Úrandom_Úrecord_streamÚrefine_namesÚregister_hookÚ"register_post_accumulate_grad_hookÚrenameÚrepeatÚrequires_grad_Ú
reshape_asÚresizeÚresize_Ú	resize_asÚresize_as_sparse_Úretain_gradÚset_Úshare_memory_Úshortr  Ú
sparse_dimÚsparse_maskÚ_sparse_mask_projectionÚsparse_resize_Úsparse_resize_and_clear_ÚstorageÚuntyped_storager„  Ústorage_typeÚsum_to_sizer—  Úto_denseÚ	_to_denseÚ	to_sparseÚtolistÚ	to_mkldnnÚtype_asrÈ  ÚviewÚview_asÚzero_Ú
__dlpack__Ú__dlpack_device__rÐ   r   ÚitemsÚ__name__Ú
startswithÚlenÚextendÚgetattrr�  Úupdate)
r3   ÚretZret2Zignoredrä  rK  rð  Zsubnamerœ  r!   r/   r/   r0   r   ‚  s€D  ÿþ
ý
üû
úùø	÷
öõôóòñð
ïîíìëêéèç
æ
åäã
âá à!ß"Þ#Ý$Ü%Û&Ú'Ù
(Ø
)×
*Ö+Õ,Ô
-Ó
.Ò
/Ñ
0Ð
1Ï
2Î
3Í
4Ì5Ë
6Ê7
ÿÉ9Ç:Æ;Å<Ä=Ã>Â?Á@À
A¿B¾
C½
D¼E»
FºG¹H¸I·J¶KµL´M³
N²O±P°Q¯R®S­
T¬U«VªW©X¨Y§Z¦[¥
\¤]£
^¢_¡
` aŸbžc�dœe›fšg™h˜i—
j–k•l”m“n’
o‘p�q�rŽs�
tŒu‹vŠw
ÿ‰y‡z†{…|„}ƒ~‚� 
 �ÿ 
 �þ  �ý 
 �ü  �û  �ú  �ù  �ø 	 �÷ 
 �ö  �õ  �ô  �ó  �ò  �ñ  �ð  �ï  �î 
 �í 
 �ì 
 �ë  �ê  �é  �è  �ç  �æ 
 �å 
ÿ �ä 
ÿ �â   �à ! �ß 
" �Þ # �Ý $ �Ü % �Û & �Ú ' �Ù ( �Ø 
) �× 
* �Ö +
þ �Õ 
. �Ò 
/ �Ñ 
0 �Ð 
1 �Ï 
3 �Í 
4 �Ì 
5 �Ë 
6 �Ê 
7 �É 8 �È 9 �Ç : �Æ ; �Å < �Ä = �Ã > �Â ? �Á @ �À A �¿ B �¾ C �½ D �¼ E �» F �º G �¹ H �¸ I �· J �¶ K �µ L �´ M �³ 
N �² 
O �± 
P �° Q �¯ R �® 
S �­ T �¬ U �« V �ª W �© X �¨ 
Y �§ Z �¦ [ �¥ \ �¤ ] �£ ^ �¢ _ �¡ ` �  a �Ÿ b �ž c �� d �œ 
e �› 
f �š 
g �™ h �˜ 
i �— j �– k �• l �” m �“ n �’ o �‘ p �� q �� r �Ž s �� t �Œ u �‹ v �Š w �‰ x �ˆ y �‡ z �† { �… | �„ } �ƒ ~ �‚  ��   � �ÿ   � �þ   � �ý   � �ü   � �û   � �ú   � �ù   � �ø  
 � �ö   � �õ   � �ô   � �ó   � �ò   � �ñ   � �ð   � �ï   � �î   � �í   � �ì   � �ë   � �ê   � �é   � �è  ÿ � �ç   � �å   � �ä   � �ã   � �â   � �á    � �à  ! � �ß  " � �Þ  # � �Ý  $ � �Ü  % � �Û  & � �Ú  ' � �Ù  (ÿ � �Ø  * � �Ö  + � �Õ  , � �Ô  - � �Ó  . � �Ò  / � �Ñ  0 � �Ð  1 � �Ï  2 � �Î  3 � �Í  4 � �Ì  5 � �Ë  6 � �Ê  7 � �É  8 � �È  9 � �Ç  : � �Æ  ; � �Å  < � �Ä  = � �Ã  > � �Â  ? � �Á  @ � �À  A � �¿  B � �¾  C � �½  D � �¼  E � �»  F � �º  G � �¹  H � �¸  I � �·  J � �¶  K � �µ  L � �´  M � �³  N � �²  O � �±  P � �°  Q � �¯  R � �®  S � �­  T � �¬  Uÿ � �«  W � �©  X � �¨  Y � �§  Z � �¦  [ � �¥  \ � �¤  ] � �£  ^ � �¢  _ � �¡  a � �Ÿ  b � �ž  c � ��  d � �œ  f � �š  h � �˜  j � �–  k � �•  l � �”  m � �“  n � �’  o � �‘  p � ��  q � ��  r � �Ž  s � ��  t � �Œ  u � �‹  v � �Š  w � �‰  x � �ˆ  y � �‡  z � �†  { � �…  | � �„  } � �ƒ  ~ � �‚   � ��    � � �ÿ    � � �þ    � � �ý    � � �ü    � � �û    � � �ú    � � �ù    � � �ø   	 � � �÷   
 � � �ö    � � �õ    � � �ô   ÿ � � �ó   ÿ � � �ñ   ÿ � � �ï    � � �í   ÿ � � �ì   ÿ � � �ê    � � �è   ÿ � � �ç   ÿ � � �å   ÿ � � �ã    � � �á     � � �à   ! � � �ß   " � � �Þ   # � � �Ý   $ÿ � � �Ü   &þ � � �Ú   ) � � �×   * � � �Ö   +ÿ � � �Õ   -ÿ � � �Ò   0ÿ � � �Ð   2ÿ � � �Í   5 � � �Ë   6 � � �Ê   7 � � �É   8 � � �È   9 � � �Ç   : � � �Æ   ; � � �Å   < � � �Ä   =ÿ � � �Ã   ?ÿ � � �Á   Aÿ � � �¿   C � � �½   D � � �¼   E � � �»   F � � �º   G � � �¹   H � � �¸   I � � �·   J � � �¶   K � � �µ   L � � �´   M � � �³   Nÿ � � �²   Pÿ � � �°   Rÿ � � �®   Tÿ � � �¬   Vÿ � � �ª   Xÿ � � �¨   Zÿ � � �¦   \ � � �¤   ] � � �£   ^ � � �¢   _ � � �¡   `ý � � �Ÿ   eÿ � � �›   gÿ � � �™   iÿ � � �—   kÿ � � �•   m � � �“   n � � �’   o � � �‘   p � � ��   qÿ � � ��   s � � ��   t � � �Œ   u � � �‹   v � � �Š   w � � �‰   x � � �ˆ   y � � �‡   z � � �†   { � � �…   | � � �„   } � � �ƒ   ~ � � �‚    � � ��     � � � �ÿ     � � � �þ     � � � �ý     � � � �ü     � � � �û    ÿ � � � �ú    þ � � � �ø     � � � �õ     � � � �ô     � � � �ó     � � � �ò     � � � �ñ     � � � �ð     � � � �ï     � � � �î     � � � �í     � � � �ì     � � � �ë     � � � �ê     � � � �é     � � � �è     � � � �ç     � � � �æ     � � � �å     � � � �ä     � � � �ã     � � � �â     � � � �á      � � � �à    ! � � � �ß    " � � � �Þ    # � � � �Ý    $ � � � �Ü    % � � � �Û    & � � � �Ú    ' � � � �Ù    ( � � � �Ø    ) � � � �×    * � � � �Ö    + � � � �Õ    , � � � �Ô    - � � � �Ó    . � � � �Ò    / � � � �Ñ    0 � � � �Ð    1 � � � �Ï    2 � � � �Î    3 � � � �Í    4 � � � �Ì    5 � � � �Ë    6 � � � �Ê    7 � � � �É    8 � � � �È    9 � � � �Ç    : � � � �Æ    = � � � �Ã    ?
ÿ � � � �Á    A
ÿ � � � �¿    C
ÿ � � � �½    E � � � �»    G � � � �¹    I � � � �·    J � � � �¶    K � � � �µ    L � � � �´    M � � � �³    N � � � �²    O � � � �±    P � � � �°    Q � � � �¯    R � � � �®    S � � � �­    T � � � �¬    U � � � �«    V � � � �ª    W � � � �©    X � � � �¨    Y � � � �§    Z � � � �¦    [ � � � �¥    \ � � � �¤    ] � � � �£    ^ � � � �¢    _ � � � �¡    ` � � � �     a � � � �Ÿ    b � � � �ž    c � � � ��    d � � � �œ    e � � � �›    f � � � �š    g � � � �™    h � � � �˜    i � � � �—    j � � � �–    k � � � �•    l � � � �”    m � � � �“    n � � � �’    o � � � �‘    p � � � ��    q � � � ��    r � � � �Ž    s � � � ��    t � � � �Œ    u � � � �‹    v � � � �Š    w � � � �‰    x � � � �ˆ    y � � � �‡    z � � � �†    { � � � �…    | � � � �„    } � � � �ƒ    ~ � � � �‚     � � � ��      � � � � �ÿ      � � � � �þ      � � � � �ý      � � � � �ü      � � � � �û      � � � � �ú      � � � � �ù      � � � � �ø     	ÿ � � � � �÷      � � � � �õ      � � � � �ô      � � � � �ó      � � � � �ò      � � � � �ñ      � � � � �ð      � � � � �ï      � � � � �î      � � � � �í      � � � � �ì      � � � � �ë      � � � � �ê      � � � � �é      � � � � �è      � � � � �ç      � � � � �æ      � � � � �å      � � � � �ä      � � � � �ã      � � � � �â      � � � � �á       � � � � �à     ! � � � � �ß     " � � � � �Þ     # � � � � �Ý     $ � � � � �Ü     % � � � � �Û     & � � � � �Ú     ' � � � � �Ù     ( � � � � �Ø     ) � � � � �×     * � � � � �Ö     + � � � � �Õ     , � � � � �Ô     - � � � � �Ó     . � � � � �Ò     / � � � � �Ñ     0 � � � � �Ð     1 � � � � �Ï     2 � � � � �Î     3 � � � � �Í     4 � � � � �Ì     5 � � � � �Ë     6 � � � � �Ê     7 � � � � �É     8 � � � � �È     9 � � � � �Ç     : � � � � �Æ     ; � � � � �Å     < � � � � �Ä     = � � � � �Ã     > � � � � �Â     ? � � � � �Á     @ � � � � �À     A � � � � �¿     B � � � � �¾     C � � � � �½     D � � � � �¼     E � � � � �»     F � � � � �º     G � � � � �¹     H � � � � �¸     I � � � � �·     J � � � � �¶     K � � � � �µ     L � � � � �´     M � � � � �³     N � � � � �²     O � � � � �±     P � � � � �°     Q � � � � �¯     R � � � � �®     S � � � � �­     T � � � � �¬     U � � � � �«     V � � � � �ª     W � � � � �©     X � � � � �¨     Y � � � � �§     Z � � � � �¦     [ � � � � �¥     \ � � � � �¤     ] � � � � �£     ^ � � � � �¢     _ � � � � �¡     ` � � � � �      a � � � � �Ÿ     b � � � � �ž     c � � � � ��     d � � � � �œ     e � � � � �›     f � � � � �š     g � � � � �™     h � � � � �˜     i � � � � �—     j � � � � �–     k � � � � �•     l � � � � �”     m � � � � �“     n � � � � �’     o � � � � �‘     pþ � � � � ��     s � � � � ��     t � � � � �Œ     u � � � � �‹     v � � � � �Š     w � � � � �‰     x � � � � �ˆ     y � � � � �‡     z � � � � �†     { � � � � �…     | � � � � �„     } � � � � �ƒ     ~ � � � � �‚      � � � � ��       � � � � � �ÿ       � � � � � �þ       � � � � � �ý       � � � � � �ü       � � � � � �û       � � � � � �ú       � � � � � �ù       � � � � � �ø      	 � � � � � �÷      
 � � � � � �ö       � � � � � �õ       � � � � � �ô       � � � � � �ó       � � � � � �ò       � � � � � �ñ       � � � � � �ð       � � � � � �ï       � � � � � �î       � � � � � �í       � � � � � �ì       � � � � � �ë       � � � � � �ê       � � � � � �é       � � � � � �è       � � � � � �ç       � � � � � �æ       � � � � � �å       � � � � � �ä       � � � � � �ã       � � � � � �â       � � � � � �á        � � � � � �à      ! � � � � � �ß      " � � � � � �Þ      # � � � � � �Ý      $ � � � � � �Ü      % � � � � � �Û      & � � � � � �Ú      ' � � � � � �Ù      ( � � � � � �Ø      ) � � � � � �×      * � � � � � �Ö      + � � � � � �Õ      , � � � � � �Ô      - � � � � � �Ó      . � � � � � �Ò      / � � � � � �Ñ      0 � � � � � �Ð      1 � � � � � �Ï      2 � � � � � �Î      3 � � � � � �Í      4 � � � � � �Ì      5 � � � � � �Ë      6 � � � � � �Ê      7 � � � � � �É      8 � � � � � �È      9 � � � � � �Ç      : � � � � � �Æ      ; � � � � � �Å      < � � � � � �Ä      = � � � � � �Ã      > � � � � � �Â      ? � � � � � �Á      @ � � � � � �À      A � � � � � �¿      B � � � � � �¾      C � � � � � �½      D � � � � � �¼      E � � � � � �»      F � � � � � �º      G � � � � � �¹      H � � � � � �¸      I � � � � � �·      J � � � � � �¶      K � � � � � �µ      L � � � � � �´      M � � � � � �³      N � � � � � �²      O � � � � � �±      P � � � � � �°      Q � � � � � �¯      R � � � � � �®      S � � � � � �­      T � � � � � �¬      U � � � � � �«      V � � � � � �ª      W � � � � � �©      X � � � � � �¨      Y � � � � � �§      Z � � � � � �¦      [ � � � � � �¥      \ � � � � � �¤      ] � � � � � �£      ^ � � � � � �¢      _ � � � � � �¡      ` � � � � � �       a � � � � � �Ÿ      b � � � � � �ž      c � � � � � ��      d � � � � � �œ      e � � � � � �›      f � � � � � �š      g � � � � � �™      h � � � � � �˜      i � � � � � �—      j � � � � � �–      k � � � � � �•      l � � � � � �”      m � � � � � �“      n � � � � � �’      o � � � � � �‘      p � � � � � ��      q � � � � � ��      r � � � � � �Ž      s � � � � � ��      t � � � � � �Œ      u � � � � � �‹      v � � � � � �Š      w � � � � � �‰      x � � � � � �ˆ      y � � � � � �‡      z � � � � � �†      { � � � � � �…      | � � � � � �„      } � � � � � �ƒ      ~ � � � � � �‚       � � � � � ��        � � � � � � �ÿ        � � � � � � �þ        � � � � � � �ý        � � � � � � �ü        � � � � � � �û        � � � � � � �ú        � � � � � � �ù        � � � � � � �ø       	 � � � � � � �÷       
 � � � � � � �ö        � � � � � � �õ        � � � � � � �ô        � � � � � � �ó        � � � � � � �ò        � � � � � � �ñ        � � � � � � �ð        � � � � � � �ï        � � � � � � �î        � � � � � � �í        � � � � � � �ì        � � � � � � �ë        � � � � � � �ê        � � � � � � �é        � � � � � � �è        � � � � � � �ç        � � � � � � �æ        � � � � � � �å        � � � � � � �ä        � � � � � � �ã        � � � � � � �â        � � � � � � �á         � � � � � � �à       ! � � � � � � �ß       " � � � � � � �Þ       # � � � � � � �Ý       $ � � � � � � �Ü       % � � � � � � �Û       & � � � � � � �Ú       ' � � � � � � �Ù       ( � � � � � � �Ø       ) � � � � � � �×       * � � � � � � �Ö       + � � � � � � �Õ       , � � � � � � �Ô       - � � � � � � �Ó       . � � � � � � �Ò       / � � � � � � �Ñ       0 � � � � � � �Ð       1 � � � � � � �Ï       2 � � � � � � �Î       3 � � � � � � �Í       4 � � � � � � �Ì       5 � � � � � � �Ë       6 � � � � � � �Ê       7 � � � � � � �É       8 � � � � � � �È       9 � � � � � � �Ç       : � � � � � � �Æ       ; � � � � � � �Å       < � � � � � � �Ä       = � � � � � � �Ã       > � � � � � � �Â       ? � � � � � � �Á       @ � � � � � � �À       A � � � � � � �¿       B � � � � � � �¾       C � � � � � � �½       D � � � � � � �¼       E � � � � � � �»       F � � � � � � �º       G � � � � � � �¹       H � � � � � � �¸       I � � � � � � �·       J � � � � � � �¶       K � � � � � � �µ       L � � � � � � �´       M � � � � � � �³       N � � � � � � �²       O � � � � � � �±       P � � � � � � �°       Q � � � � � � �¯       R � � � � � � �®       S � � � � � � �­       T � � � � � � �¬       U � � � � � � �«       V � � � � � � �ª       W � � � � � � �©       X � � � � � � �¨       Y � � � � � � �§       Z � � � � � � �¦       [ � � � � � � �¥       \ � � � � � � �¤       ] � � � � � � �£       ^ � � � � � � �¢       _ � � � � � � �¡       ` � � � � � � �        a � � � � � � �Ÿ       b � � � � � � �ž       c � � � � � � ��       d � � � � � � �œ       e � � � � � � �›       f � � � � � � �š       g � � � � � � �™       h � � � � � � �˜       i � � � � � � �—       j � � � � � � �–       k � � � � � � �•       l � � � � � � �”       m � � � � � � �“       n � � � � � � �’       o � � � � � � �‘       p � � � � � � ��       q � � � � � � ��       r � � � � � � �Ž       s � � � � � � ��       t � � � � � � �Œ       u � � � � � � �‹       v � � � � � � �Š       w � � � � � � �‰       x � � � � � � �ˆ       y � � � � � � �‡       z � � � � � � �†       { � � � � � � �…       | � � � � � � �„       } � � � � � � �ƒ       ~ � � � � � � �‚        � � � � � � ��        ûý €ýr   Ú
dispatcherc                    s   ‡ fdd„}|S )aƒ  Wraps a given function with ``__torch_function__`` -related functionality.

    Parameters
    ----------
    dispatcher: Callable
        A callable that returns an iterable of Tensor-likes passed into the function.

    Note
    ----
    This decorator may reduce the performance of your code. Generally, it's enough to express
    your code as a series of functions that, themselves, support __torch_function__. If you
    find yourself in the rare situation where this is not the case, e.g. if you're wrapping a
    low-level library and you also need it to work for Tensor-likes, then this function is available.

    Examples
    --------
    >>> def dispatcher(a): # Must have the same signature as func
    ...     return (a,)
    >>> @torch.overrides.wrap_torch_function(dispatcher)
    >>> def func(a): # This will make func dispatchable by __torch_function__
    ...     return a + 0
    c                    s   t  ˆ ¡‡‡ ‡fdd„ƒ‰ˆS )Nc                     s<   ˆ | i |¤Ž}t |ƒrtˆ|g| ¢R i |¤ŽS ˆ| i |¤ŽS r¥  )r   r   )r,   r-   Úrelevant_args)rô  r!   Úwrappedr/   r0   rö  Ð  s   z3wrap_torch_function.<locals>.inner.<locals>.wrapped)Ú	functoolsr   ©r!   ©rô  )r!   rö  r0   r7  Ï  s   z"wrap_torch_function.<locals>.innerr/   )rô  r7  r/   rù  r0   r   ¸  s   r   rõ  Úget_type_fnc           	      C   s²   |du rt }tj ¡ sg S tƒ }g }| D ]B}||ƒ}||vrVt|dƒrV|jtjjkrV|rP| |¡ t	|ƒ}t
|ƒD ]\}}t|||ƒƒrH|} nq9| ||¡ q|h}|g}q|S )a
  Returns a list of arguments on which to call __torch_function__.

    Checks arguments in relevant_args for __torch_function__ implementations,
    storing references to the arguments and their types in overloaded_args and
    overloaded_types in order of calling precedence. Only distinct types are
    considered. If a type is a subclass of another type it will have higher
    precedence, otherwise the precedence order is the same as the order of
    arguments in relevant_args, that is, from left-to-right in the argument list.

    The precedence-determining algorithm implemented in this function is
    described in `NEP-0018`_.

    See torch::append_overloaded_arg for the equivalent function in the C++
    implementation.

    Parameters
    ----------
    relevant_args : iterable of array-like
        Iterable of array-like arguments to check for __torch_function__
        methods.

    get_type_fn : callable, optional
        Function to call on each argument in relevant_args to get its type.

    Returns
    -------
    overloaded_args : list
        Arguments from relevant_args on which to call __torch_function__
        methods, in the order in which they should be called.

    .. _NEP-0018:
       https://numpy.org/neps/nep-0018-array-function-protocol.html
    NrÈ   )r„  r    Ú_CÚ_is_torch_function_enabledÚsetÚhasattrrÈ   Ú_disabled_torch_function_implr«  rï  Ú	enumerateÚ
issubclassÚinsert)	rõ  rú  Zoverloaded_typesÚoverloaded_argsÚargZarg_typer°  ÚiZold_argr/   r/   r0   Ú_get_overloaded_argsÜ  s.   "

þ€r  Ú
public_apic                 O   s  t |ƒ}ttt|ƒƒ}tƒ r/tƒ �}| | |||¡}W d  ƒ n1 s$w   Y  |tur/|S |D ]*}|j}	t|	dƒrL|	j	|u rL|	t
jjurLt dt¡ |	| |||ƒ}|tur[|  S q1| j› d| j› �}
d|
› ddd„ |D ƒ› �}tƒ r}|d	tƒ › �7 }t|ƒ‚)
a=  Implement a function with checks for ``__torch_function__`` overrides.

    See torch::autograd::handle_torch_function for the equivalent of this
    function in the C++ implementation.

    Arguments
    ---------
    public_api : function
        Function exposed by the public torch API originally called like
        ``public_api(*args, **kwargs)`` on which arguments are now being
        checked.
    relevant_args : iterable
        Iterable of arguments to check for __torch_function__ methods.
    args : tuple
        Arbitrary positional arguments originally passed into ``public_api``.
    kwargs : tuple
        Arbitrary keyword arguments originally passed into ``public_api``.

    Returns
    -------
    object
        Result from calling ``implementation`` or an ``__torch_function__``
        method, as appropriate.

    Raises
    ------
    TypeError : if no implementation is found.

    Example
    -------
    >>> def func(a):
    ...     if has_torch_function_unary(a):
    ...         return handle_torch_function(func, (a,), a)
    ...     return a + 0
    NÚ__self__z„Defining your `__torch_function__ as a plain method is deprecated and will be an error in future, please define it as a classmethod.Ú.zno implementation found for 'z.' on types that implement __torch_function__: c                 S   ó   g | ]}t |ƒ‘qS r/   )r„  )Ú.0r  r/   r/   r0   Ú
<listcomp>l  ó    z)handle_torch_function.<locals>.<listcomp>z nor in mode )r  rÙ  Úmapr„  r   Ú_pop_mode_temporarilyrÈ   ÚNotImplementedrþ  r  r    rû  rÿ  r(   ÚwarnÚDeprecationWarningÚ
__module__rí  Ú_get_current_function_modeÚ	TypeError)r  rõ  r,   r-   r  Útypesr“  ÚresultZoverloaded_argZtorch_func_methodÚ	func_namer(  r/   r/   r0   r   $  s6   &ÿþÿÿÿr   aú  Check for __torch_function__ implementations in the elements of an iterable
    or if a __torch_function__ mode is enabled.  Considers exact ``Tensor`` s
    and ``Parameter`` s non-dispatchable.  Use this to guard a call to
    :func:`handle_torch_function`; don't use it to test if something
    is Tensor-like, use :func:`is_tensor_like` instead.
    Arguments
    ---------
    relevant_args : iterable
        Iterable or arguments to check for __torch_function__ methods.
    Returns
    -------
    bool
        True if any of the elements of relevant_args have __torch_function__
        implementations, False otherwise.
    See Also
    ________
    torch.is_tensor_like
        Checks if something is a Tensor-like, including an exact ``Tensor``.
    zÓSpecial case of `has_torch_function` for single inputs.
    Instead of:
      `has_torch_function((t,))`
    call:
      `has_torch_function_unary(t)`
    which skips unnecessary packing and unpacking work.
    a'  Special case of `has_torch_function` that skips tuple creation.

    This uses the METH_FASTCALL protocol introduced in Python 3.7

    Instead of:
      `has_torch_function((a, b))`
    call:
      `has_torch_function_variadic(a, b)`
    which skips unnecessary packing and unpacking work.
    c            
      C   s\  t  t¡} i }dttjfdtjtjjfdtjjttjjƒfdtjjttjjƒfdtj	ttj	ƒfdtj
ttj
ƒfdtjttjƒfdtjttjƒfg}|D ]Þ\}}}|D ]Ö}d	}|tj	ur€| d
¡raqR| d¡rid}n*| d¡rqd}n"|d  ¡ szd}n|dkrqRnt||ƒ}tt|d ƒ|krŽqR|dkr“qRt||ƒ}|tj	u r¦tt|d ƒ|kr¦qRt|tjƒr­qRt|tjƒr´qRt|ƒs÷t|dƒr÷|› d|› d�||j< |› d|› d�||j< |rÖqR|jtƒ v rîd}	|jtƒ vsíJ |	 ||j¡ƒ‚qR| |  |j¡ qRt|ƒsüqR|› d|› �||< |�r	qR|tƒ v �r!d}	|tƒ v�s J |	 ||j¡ƒ‚qR| |  |¡ qRqK| |fS )Nr    ztorch.functionalztorch.nn.functionalztorch.nn.initztorch.Tensorztorch.linalgz	torch.fftztorch.specialFr¤  r£  Tr   Ú
unique_dimÚ__weakref__rï   r	  z.__get__z.__set__zk{}.{} is in the tuple returned by torch._overrides.get_ignored_functions but still has an explicit override) ÚcollectionsÚdefaultdictÚlistr    Ú__all__r�   rŒ   Údirr“   r3   rÚ  ru   r  rî  ÚendswithÚislowerrñ  ÚobjectÚ
isinstancer  Ú
ModuleTypeÚ
__future__Ú_Featurer�  rþ  rï   Ú__set__r   r   Úformatrí  r~  )
Úoverridable_funcsr°  Ztested_namespacesZnamespace_strÚ	namespaceZns_funcsr  r%   r!   r(  r/   r/   r0   Ú_get_overridable_functions¢  sz   

ø




ÿ

Æ;r+  c                   C   s
   t ƒ d S )a  List functions that are overridable via __torch_function__

    Returns
    -------
    Dict[Any, List[Callable]]
        A dictionary that maps namespaces that contain overridable functions
        to functions in that namespace that can be overridden.
    r   )r+  r/   r/   r/   r0   r   î  s   

r   c                 C   s.   t | tjjtjjfƒrt| ƒS tƒ d  | ¡S )a&  Get a human readable string name for a function passed to
    __torch_function__

    Arguments
    ---------
    f : Callable
        Function to resolve the name of.

    Returns
    -------
    str
        Name of the function; if eval'ed it should give back the input
        function.
    r  )r#  r    Z_opsZ
OpOverloadZOpOverloadPacketÚstrr+  Úget)Úfr/   r/   r0   r   ú  s   r   c                  C   s   t ƒ } t| tj ƒ}|S )z> Returns a set of the overridable methods on ``torch.Tensor`` )r   rý  r    r3   )r)  Úmethodsr/   r/   r0   Ú_get_tensor_methods  s   r0  c                 C   s   | t ƒ v p	| jdkS )aw  
    Returns True if the function passed in is a handler for a
    method or property belonging to ``torch.Tensor``, as passed
    into ``__torch_function__``.

    .. note::
       For properties, their ``__get__`` method must be passed in.

    This may be needed, in particular, for the following reasons:

    1. Methods/properties sometimes don't contain a `__module__` slot.
    2. They require that the first passed-in argument is an instance
       of ``torch.Tensor``.

    Examples
    --------
    >>> is_tensor_method_or_property(torch.Tensor.add)
    True
    >>> is_tensor_method_or_property(torch.add)
    False
    rï   )r0  rí  rø  r/   r/   r0   r     s   r   c                 C   s   t | ƒtju pt| dƒS )a9  
    Returns ``True`` if the passed-in input is a Tensor-like.

    Currently, this occurs whenever there's a ``__torch_function__``
    attribute on the type of the input.

    Examples
    --------
    A subclass of tensor is generally a Tensor-like.

    >>> class SubTensor(torch.Tensor): ...
    >>> is_tensor_like(SubTensor([0]))
    True

    Built-in or user types aren't usually Tensor-like.

    >>> is_tensor_like(6)
    False
    >>> is_tensor_like(None)
    False
    >>> class NotATensor: ...
    >>> is_tensor_like(NotATensor())
    False

    But, they can be made Tensor-like by implementing __torch_function__.

    >>> class TensorLike:
    ...     @classmethod
    ...     def __torch_function__(cls, func, types, args, kwargs):
    ...         return -1
    >>> is_tensor_like(TensorLike())
    True
    rÈ   )r„  r    r3   rþ  )Úinpr/   r/   r0   r   .  s   "r   c                   @   sH   e Zd ZU dZd ed< dd„ Zddd„Zd	d
„ Zdd„ Ze	dd„ ƒZ
dS )ÚTorchFunctionModea  
    A ``TorchFunctionMode`` allows you to override the meaning of all
    ``__torch_function__`` overrideable functions within a dynamic scope,
    without having to actually create a tensor subclass or manually
    monkey-patch functions in the PyTorch API.  Some common situations
    where you should use a mode:

        * You want to override the meaning of factory functions, or other
          functions that do not otherwise take a tensor as an argument
          (these cannot be overridden with tensor subclasses).

        * You want to override the behavior of all functions without needing
          to wrap your inputs in tensor subclasses; e.g., if you are just
          interested in logging intermediate computations.

        * You want to control the order of execution of various tensor
          subclasses explicitly, rather than implicitly via the return of
          ``NotImplemented``.

    Independent subclasses of :class:`TorchFunctionMode` are compositional:
    modes can be pushed onto a stack using ``with MyMode():``.
    When you call functions in the PyTorch API inside your
    ``__torch_function__`` implementation, by default, they will forward on to
    the next mode on the mode stack.  If you want recursively call back into
    your current ``__torch_function__`` implementation, either explicitly
    invoke ``self.__torch_function__(...)``, or use the context manager
    ``enable_torch_function_mode(self, replace=self.inner)`` to make PyTorch
    API self-referential (beware of infinite loops, in this case!)
    r7  c                 C   s   d S r¥  r/   ry  r/   r/   r0   rÃ   s  rF  zTorchFunctionMode.__init__r/   Nc                 C   s   t ƒ ‚r¥  )ÚNotImplementedError©rK  r!   r  r,   r-   r/   r/   r0   rÈ   v  s   z$TorchFunctionMode.__torch_function__c                 C   s   t | ƒ | S r¥  )Ú
_push_modery  r/   r/   r0   Ú	__enter__y  s   zTorchFunctionMode.__enter__c                 C   s
   t ƒ  d S r¥  )Ú	_pop_mode)rK  Úexc_typeZexc_valZexc_tbr/   r/   r0   Ú__exit__}  s   
zTorchFunctionMode.__exit__c                 O   s   t  d¡ | |i |¤Ž}|S )NzP`Mode.push()` is no longer necessary and can be replaced with just `with Mode()`)r(   r  )Úclsr,   r-   Úinstancer/   r/   r0   Úpush€  s   
zTorchFunctionMode.push©r/   N)rí  r  Ú__qualname__Ú__doc__Ú__annotations__rÃ   rÈ   r6  r9  Úclassmethodr<  r/   r/   r/   r0   r2  R  s   
 
r2  c                  C   s   t ƒ } | dkrt| d ƒS d S )Nr   r  )r   r   ©Z	stack_lenr/   r/   r0   r  ‡  s   r  c                  C   s   t ƒ } dd„ t| ƒD ƒS )Nc                 S   r
  r/   )r   )r  r  r/   r/   r0   r  Ž  r  z4_get_current_function_mode_stack.<locals>.<listcomp>)r   r‚   rB  r/   r/   r0   Ú _get_current_function_mode_stackŒ  s   rC  c                 C   s   t | ƒ d S r¥  )r   )r“  r/   r/   r0   r5  �  s   r5  c                  C   s
   t ƒ } | S r¥  )r   ©Úoldr/   r/   r0   r7  ”  s   r7  c                  c   s(   � t ƒ } z
| V  W t| ƒ d S t| ƒ w r¥  )r7  r5  rD  r/   r/   r0   r  ™  s
   €r  c                   @   s   e Zd Zddd„ZdS )ÚBaseTorchFunctionModer/   Nc                 C   s   |d u ri }||i |¤ŽS r¥  r/   r4  r/   r/   r0   rÈ   ¢  s   z(BaseTorchFunctionMode.__torch_function__r=  )rí  r  r>  rÈ   r/   r/   r/   r0   rF  ¡  s    rF  c                   c   s@   � t j ¡ � zd V  W nw W d   ƒ d S 1 sw   Y  d S r¥  )r    rû  Z_RestorePythonTLSSnapshotr/   r/   r/   r0   r   ¨  s   €	"ür   )r   r    r¥  )9r?  r%  r  r÷  r  r(   Útypingr   r   r   r   r   r   r   r	   r   Ú
contextlibr    Útorch._Cr   r   r   r   r   r   r   r   r   r  r,  r2   Ú	lru_cacher   rý   r   r   r  r   r   rŽ   r�   r+  r   r   r0  r–  r   r   r2  r  rC  r5  r7  Úcontextmanagerr  rF  r   r/   r/   r/   r0   Ú<module>   s¤    (,ÿÿÿÿ
ÿ          <*$Hÿÿ
ÿNþþþ,K
$5
