]> www.infradead.org Git - users/jedix/linux-maple.git/commit
drm/amd/display: fix type mismatch in CalculateDynamicMetadataParameters()
authorVitaliy Shevtsov <v.shevtsov@mt-integration.ru>
Wed, 26 Feb 2025 20:28:51 +0000 (01:28 +0500)
committerAlex Deucher <alexander.deucher@amd.com>
Wed, 5 Mar 2025 15:38:07 +0000 (10:38 -0500)
commitc3c584c18c90a024a54716229809ba36424f9660
tree3e74ccb90eb000f675b9074732d9be41b42b5f01
parenta734a717dcfe1ce618301775034e598cb456665b
drm/amd/display: fix type mismatch in CalculateDynamicMetadataParameters()

There is a type mismatch between what CalculateDynamicMetadataParameters()
takes and what is passed to it. Currently this function accepts several
args as signed long but it's called with unsigned integers and integer. On
some systems where long is 32 bits and one of these unsigned int params is
greater than INT_MAX it may cause passing input params as negative values.

Fix this by changing these argument types from long to unsigned int and to
int respectively. Also this will align the function's definition with
similar functions in other dcn* drivers.

Found by Linux Verification Center (linuxtesting.org) with Svace.

Fixes: 6725a88f88a7 ("drm/amd/display: Add DCN3 DML")
Signed-off-by: Vitaliy Shevtsov <v.shevtsov@mt-integration.ru>
Reviewed-by: Alex Hung <alex.hung@amd.com>
Signed-off-by: Alex Deucher <alexander.deucher@amd.com>
drivers/gpu/drm/amd/display/dc/dml/dcn30/display_mode_vba_30.c